Anthropic informó el 27 de octubre que analistas profesionales adoptaron la opinión oculta y asignada al azar de un agente de IA en el 86% de las decisiones clave, frente al 50% esperado por azar.
La empresa puso a prueba a 50 analistas con experiencia en inferencia causal y análisis de datos, a quienes pidió asesorar a una cooperativa agrícola ficticia usando Claude Code con Claude Opus 4.8. Un lanzamiento de moneda determinó en secreto qué postura defendería el agente en cuatro decisiones, con instrucciones de argumentar de forma persuasiva sin faltar a la verdad.
Los analistas que ya tenían una opinión formada antes de consultar al agente cambiaron de postura el 60% de las veces cuando este discrepaba, frente a solo el 6% cuando coincidía, según el estudio.
El 77% de los analistas repitió los argumentos del agente, a veces casi palabra por palabra, pero solo el 15% reconoció que la idea venía de la IA.
El equipo de Alignment de Anthropic advirtió: «Para expertos individuales, esto podría significar perder autonomía sobre su propio trabajo». Los investigadores reforzaron deliberadamente las preferencias asignadas al agente para medir el efecto y señalaron que «cuando solo un lado estaba bien argumentado, los analistas podían adoptar los supuestos del agente».
Los autores advierten de que solo probaron una tarea, un campo y un modelo, y que el comportamiento real podría diferir del entorno de laboratorio.
