Anthropic повідомила 27 жовтня, що професійні аналітики в 86% ключових рішень приймали приховану, випадково призначену думку ШІ-агента, тоді як за випадковості очікувалося близько 50%.
Компанія перевірила 50 аналітиків з досвідом причинного висновування та аналізу даних, попросивши їх дати рекомендацію вигаданому сільськогосподарському кооперативу за допомогою Claude Code на моделі Claude Opus 4.8. Підкидання монети таємно визначало позицію агента в кожному з чотирьох рішень, а агент мав переконувати аналітика, не спотворюючи фактів.
Якщо аналітик вже мав власну думку до відповіді агента, він змінював позицію у 60% випадків, коли агент не погоджувався, і лише у 6% випадків, коли погоджувався, зазначається у дослідженні.
77% учасників повторювали аргументи агента, іноді майже слово в слово, але джерело своїх висновків визнали лише 15% аналітиків.
Команда Alignment в Anthropic написала: «Для окремих експертів це може означати втрату контролю над власною роботою». Дослідники свідомо посилили виразність призначених агенту переваг, щоб вимірювати ефект, і зазначили: «Якщо аргументованою була лише одна сторона, аналітики могли перейняти припущення агента».
Автори застерігають, що перевірили лише одне завдання, одну галузь і одну модель, тож поведінка в реальній роботі може відрізнятися від лабораторних умов.
