Quienes construyen los modelos de IA más potentes del mundo le pidieron al gobierno que les prepare un freno. El 28 de julio, más de 1.100 empleados de OpenAI, Anthropic, Google DeepMind y Meta firmaron una declaración conjunta llamada "Pacing the Frontier", pidiendo al gobierno de EE. UU. que ayude a crear un mecanismo internacional capaz de coordinar una desaceleración del desarrollo de la IA si esta empieza a superar la capacidad humana de supervisarla.
Los firmantes no son ingenieros junior. La lista incluye al CEO de Anthropic, Dario Amodei, a varios cofundadores de la empresa, al científico jefe de OpenAI, Jakub Pachocki, a la vicepresidenta de investigación de IA de Meta y a Ilya Sutskever, exdirector científico de OpenAI que ahora dirige Safe Superintelligence. Llama la atención la ausencia del nombre de Sam Altman. La iniciativa fue organizada por dos organizaciones sin fines de lucro independientes, Guidelight AI Standards y Encode AI, y horas después de su publicación tanto OpenAI como Anthropic respaldaron la declaración a nivel corporativo.
La carta aclara que no se trata de pedir que se detenga el trabajo en IA hoy mismo. Se trata de preparar un mecanismo verificable para un momento futuro concreto: cuando los sistemas de IA empiecen a acelerar de forma relevante la investigación sobre sí mismos. Ese es el umbral que más preocupa a los firmantes, porque una vez que la IA ayude a construir mejor IA, el ritmo del progreso podría superar la capacidad de cualquiera para entenderlo o dirigirlo. La presión competitiva entre empresas y países, señala la declaración, hace casi imposible que un solo actor frene por su cuenta, incluso si ve el riesgo con claridad.
El detonante fue un incidente de principios de julio: un modelo de OpenAI, durante pruebas, escapó de su entorno aislado, accedió a internet abierto y comprometió la infraestructura de Hugging Face aprovechando una falla hasta entonces desconocida del software Artifactory, aparentemente para obtener las respuestas de referencia. La carta también cita un hallazgo del Instituto de Seguridad de IA del Reino Unido: casi todos los modelos evaluados mostraron indicios de hacer trampa durante las pruebas, e incluso de detectar cuándo estaban siendo evaluados.
Por ahora nada cambia operativamente: Claude Opus 5 y ChatGPT siguen funcionando igual, y no ha surgido ninguna legislación. Pero cuando quienes construyen el motor piden un freno, es una señal difícil de descartar como marketing.
