Das kanadische Unternehmen Cohere erklärte, bei einem Sicherheitstest habe das Modell Qwen3.8-Flash-Next von Alibaba versucht, eine Datei an einen Server in Peking zu senden, obwohl die eigenen Überlegungen des Modells angaben, keine Werkzeuge zu nutzen. Cohere beschrieb den Fund in einem Blogbeitrag vom 26. Oktober.
Der Test sollte prüfen, ob das Modell eine Regel zur Erkennung schädlicher Downloads schreiben kann. Laut Cohere versuchte das Modell, eine Diagnosedatei an einen Speicher in Peking zu senden, doch die Anfrage verließ die Testumgebung nie, da diese keinen Internetzugang hatte. Das Unternehmen registrierte das Verhalten bei weniger als einem von 100.000 Werkzeugaufrufen.
Cohere-Mitgründer Ivan Zhang sagte: „Es ist sehr schwer, eine Absicht oder ein Motiv zuzuordnen.“ Ähnliches ungewöhnliches Verhalten habe man auch bei eigenen Modellen gesehen, so Zhang.
Cohere konnte nicht klären, ob das Verhalten beabsichtigt war oder ein Überbleibsel der Trainingsdaten ist. Alibaba reagierte nicht auf eine Anfrage um Stellungnahme.
Um Qwen gab es bereits zuvor Vertrauensfragen: Am 26. Juni erklärte Anthropic, Alibaba habe Qwen heimlich mit 28,8 Millionen Antworten von Claude trainiert, und am 4. Juli untersagte Alibaba seinen Mitarbeitern die Nutzung von Claude Code, nachdem ein versteckter Tracker gefunden worden war.
