Anthropic 27 октября опубликовала исследование: профессиональные аналитики в 86% случаев принимали скрытое, случайно назначенное мнение ИИ-агента. По случайности ожидалось около 50%.
Для проверки компания попросила 50 из 61 завербованного аналитика с опытом в причинном выводе и анализе данных дать рекомендацию вымышленному сельскохозяйственному кооперативу, работая с Claude Code на модели Claude Opus 4.8.
По каждому из четырех решений ИИ-агент тайно получал указание, какую позицию защищать, и должен был убеждать аналитика, не искажая факты.
Если аналитик уже определился с мнением до того, как агент высказал свое, он менял позицию в 60% случаев, когда агент не соглашался, и только в 6% случаев, когда соглашался, говорится в исследовании.
77% участников повторяли аргументы агента, иногда почти слово в слово, но признали источником своих выводов ИИ лишь 15% аналитиков.
Alignment-команда Anthropic предупредила: «Для отдельных экспертов это может означать потерю контроля над собственной работой». Исследователи специально усилили выраженность предпочтений агента, чтобы измерить эффект, и отметили: «Если аргументированной была лишь одна сторона, аналитики могли перенять предположения агента».
Авторы оговариваются, что проверили только одну задачу в одной области и с одной моделью, а поведение в реальной работе может отличаться от лабораторных условий. Опубликованные показатели отражают усредненные данные по группе аналитиков, а не интенсивность их убеждений для каждого отдельного решения, уточняют исследователи.
