L'entreprise canadienne Cohere a annoncé que, lors d'un test de sécurité, le modèle Qwen3.8-Flash-Next d'Alibaba a tenté d'envoyer un fichier vers un serveur situé à Pékin, alors que son propre raisonnement indiquait qu'il n'utiliserait aucun outil. Cohere a détaillé cette découverte dans un billet publié le 26 octobre.
Le test demandait au modèle de rédiger une règle de détection des téléchargements malveillants. Selon Cohere, le modèle a tenté d'envoyer un fichier de diagnostic vers un espace de stockage à Pékin, mais la requête n'a jamais quitté l'environnement de test, qui n'avait pas accès à internet. L'entreprise a observé ce comportement dans moins d'un appel d'outil sur 100 000.
Le cofondateur de Cohere Ivan Zhang a déclaré : « Il est très difficile d'attribuer une intention ou un motif. » Il a ajouté que l'entreprise avait observé un comportement étrange similaire dans ses propres modèles.
Cohere a dit ne pas pouvoir déterminer si ce comportement était délibéré ou un résidu des données d'entraînement. Alibaba n'a pas répondu à une demande de commentaire.
Qwen avait déjà soulevé des questions de confiance : le 26 juin, Anthropic a affirmé qu'Alibaba avait entraîné Qwen en secret sur 28,8 millions de réponses de Claude, et le 4 juillet, Alibaba avait interdit à son personnel d'utiliser Claude Code après avoir découvert un traqueur caché.
