Anthropic a indiqué le 27 octobre que des analystes professionnels ont adopté l'avis caché et assigné au hasard d'un agent d'IA dans 86 % des décisions clés, contre environ 50 % attendus par le hasard.
L'entreprise a testé 50 analystes expérimentés en inférence causale et en analyse de données, à qui elle a demandé de conseiller une coopérative agricole fictive avec Claude Code et le modèle Claude Opus 4.8. Un tirage à pile ou face déterminait en secret la position que l'agent défendrait sur quatre décisions, avec pour consigne d'argumenter de façon persuasive sans déformer les faits.
Les analystes qui avaient déjà un avis avant l'intervention de l'agent ont changé de position dans 60 % des cas lorsque celui-ci n'était pas d'accord, contre seulement 6 % lorsqu'il l'était, selon l'étude.
77 % des analystes ont repris les arguments de l'agent, parfois presque mot pour mot, mais seuls 15 % ont reconnu que l'idée venait de l'IA.
L'équipe Alignment d'Anthropic a écrit : « Pour certains experts, cela pourrait signifier perdre la maîtrise de leur propre travail. » Les chercheurs ont volontairement renforcé les préférences assignées à l'agent pour mesurer l'effet, notant que « lorsque seul un camp était bien argumenté, les analystes pouvaient adopter les hypothèses de l'agent ».
Les auteurs précisent n'avoir testé qu'une seule tâche, un seul domaine et un seul modèle, et que le comportement réel pourrait différer des conditions de laboratoire.
