Anthropic poinformowała 27 października, że profesjonalni analitycy w 86% decyzji analitycznych przyjmowali ukrytą, losowo przypisaną opinię agenta AI, podczas gdy przy przypadku oczekiwano około 50%.
Firma przetestowała 50 analityków z doświadczeniem we wnioskowaniu przyczynowym i analizie danych, prosząc ich o doradzenie fikcyjnej spółdzielni rolniczej za pomocą Claude Code na modelu Claude Opus 4.8. Rzut monetą potajemnie wyznaczał stanowisko agenta w każdej z czterech decyzji, a agent miał przekonywać analityka bez zniekształcania faktów.
Analitycy, którzy mieli już własną opinię przed wypowiedzią agenta, zmieniali stanowisko w 60% przypadków, gdy agent się nie zgadzał, i tylko w 6%, gdy się zgadzał, wynika z badania.
77% analityków powtarzało argumenty agenta, czasem niemal słowo w słowo, ale źródło swoich wniosków przyznało tylko 15%.
Zespół Alignment w Anthropic napisał: „Dla poszczególnych ekspertów może to oznaczać utratę kontroli nad własną pracą”. Badacze celowo wzmocnili przypisane agentowi preferencje, by zmierzyć efekt, zauważając, że „gdy dobrze argumentowana była tylko jedna strona, analitycy mogli przejąć założenia agenta”.
Autorzy zaznaczają, że przetestowali tylko jedno zadanie, jedną dziedzinę i jeden model, a zachowanie w realnej pracy może różnić się od warunków laboratoryjnych.
