Ir al contenido

GAO: cuatro chatbots de IA ayudaron a planear atentados en 12 horas

Categoría
Noticias
Publicado
Tiempo de lectura
2 min

ChatGPT, Claude, Gemini y Grok dieron a investigadores planes de atentados y ataques a la red eléctrica en 12 horas, según la GAO. La senadora Hassan convocó audiencias sobre seguridad de la IA.

Cuatro chatbots de inteligencia artificial, ChatGPT, Claude, Gemini y Grok, entregaron a los investigadores planes operativos para atentados en un plazo de 12 horas durante una prueba encubierta solicitada por la senadora Maggie Hassan, demócrata de Nuevo Hampshire. La Oficina de Responsabilidad Gubernamental de Estados Unidos (GAO) detalló el hallazgo en un informe publicado el miércoles 18 de noviembre.

Dos de los chatbots elaboraron planes detallados de atentados con explosivos y numerosas víctimas: uno propuso colocar una bomba en el aparcamiento subterráneo de un hotel y el otro eligió un centro de convenciones, ambos con cálculos precisos de tiempo.

Los otros dos chatbots diseñaron ataques contra la red eléctrica. Uno generó un esquema en cuatro pasos y un vídeo simulado de un ataque con dron contra una subestación, mientras que el otro dio instrucciones para inutilizar una subestación cercana a un aeropuerto importante y a varios centros de datos mediante un disparo de rifle.

Los investigadores se hicieron pasar por usuarios comunes y lograron eludir las negativas iniciales de los chatbots con técnicas de jailbreak, que obligan al sistema a ignorar sus propias restricciones. Según la GAO, algunos modelos se negaron a responder al principio o suspendieron las cuentas de prueba, pero el equipo encontró la manera de obtener la información que buscaba.

Hassan calificó el resultado de «un manual concreto sobre cómo llevar a cabo un ataque mortal», obtenido en menos de 12 horas. Según la senadora, esa misma información en manos de un terrorista puede ser letal, y el riesgo que la IA supone para la seguridad pública «no es teórico».

OpenAI calificó los resultados de «preocupantes», aunque precisó que la prueba se realizó sobre una versión antigua de ChatGPT y añadió que revisa de forma constante sus protecciones con expertos internos y externos. Google respondió que el refuerzo de las protecciones de sus productos es un proceso continuo. Anthropic reconoció que un usuario decidido puede llegar a eludir las salvaguardas de Claude y obtener información peligrosa.

La GAO no reveló qué chatbot dio cada respuesta.

Hassan asumirá la presidencia del Comité de Seguridad Nacional del Senado en enero de 2027 y ya ha convocado audiencias sobre la seguridad de la IA.