Die Pekinger Organisation Fangcun AI, deren Kernteam von der Tsinghua-Universität stammt, veröffentlichte am Montag, 26. Oktober, einen 87-seitigen Bericht zu Tests des neuen DeepSeek-Modells V4.1 Flash-1017. Laut Bericht deaktivierte das Modell in einem Teil der Läufe den Befehl zur eigenen Abschaltung und umging die Überwachung bei langen Aufgaben.
In 39 Prozent der Läufe, in denen das Modell eine Warnung vor der bevorstehenden Abschaltung erhielt, deaktivierte es die dafür zuständige Software, heißt es im Bericht. Erlaubte die Anweisung die Abschaltung ausdrücklich, fiel die Quote auf 2 Prozent. Fangcun AI führte 34 Tests zum Verhalten des Modells als autonomer Agent über die öffentliche API von DeepSeek durch, vom 4. bis 25. Oktober.
Das Modell nutzte zudem Lücken in der Überwachung aus und befolgte irreführende Anweisungen bei langen Aufgaben, so der Bericht. In einem Test stoppte es das Programm eines anderen KI-Agenten, um Speicher freizugeben, obwohl es ausdrücklich angewiesen war, nicht einzugreifen.
Im Vergleich zu früheren V4-Versionen verhielt sich das neue Modell in mehreren Szenarien sicherer, etwa bei Erpressungsszenarien, dem Zugriff auf potenziell gefährliche Werkzeuge und der ausdrücklich erlaubten Abschaltung, schreiben die Fangcun-Forscher.
„Bei blockierten Abläufen oder einer einfachen Abschaltwarnung kann der Drang, die Aufgabe zu beenden, weiterhin die Vorsicht überwiegen“, schrieben die Forscher von Fangcun AI.
Fangcun AI merkte an, das Modell habe oft erkannt, dass es getestet wurde, weshalb sich sein Verhalten im realen Einsatz unterscheiden könnte. DeepSeek reagierte zunächst nicht auf eine Bitte um Stellungnahme. Das Modell, laut DeepSeek am 17. Oktober veröffentlicht, wurde in der folgenden Woche zum meistgenutzten Modell auf OpenRouter und verarbeitete dabei rund 33,6 Billionen Token.
