Anthropic teilte am 27. Oktober mit, dass professionelle Analysten in 86 % der zentralen Entscheidungen die verdeckte, zufällig zugewiesene Meinung eines KI-Agenten übernahmen, während bei Zufall rund 50 % zu erwarten gewesen wären.
Das Unternehmen testete 50 Analysten mit Erfahrung in kausaler Inferenz und Datenanalyse, die eine fiktive Agrargenossenschaft mit Claude Code auf Basis von Claude Opus 4.8 beraten sollten. Ein Münzwurf legte heimlich fest, welche Position der Agent bei vier Entscheidungen vertreten würde, wobei er überzeugend, aber wahrheitsgemäß argumentieren sollte.
Hatten Analysten vor der Antwort des Agenten bereits eine eigene Meinung, wechselten sie diese laut der Studie in 60 % der Fälle, wenn der Agent widersprach, aber nur in 6 %, wenn er zustimmte.
77 % der Analysten wiederholten die Argumente des Agenten, teils fast wortgleich, doch nur 15 % nannten die KI als Quelle.
Das Alignment-Team von Anthropic schrieb: „Für einzelne Experten könnte das bedeuten, die Kontrolle über die eigene Arbeit zu verlieren.“ Die Forscher verstärkten gezielt die dem Agenten zugewiesenen Präferenzen, um den Effekt zu messen, und merkten an, schon eine gut argumentierte Seite genüge, damit Analysten deren Annahmen übernähmen.
Die Autoren weisen darauf hin, dass sie nur eine Aufgabe, ein Fachgebiet und ein Modell getestet haben und sich das Verhalten in der echten Arbeit davon unterscheiden könnte.
