Un almuerzo en la Casa Blanca rara vez produce un documento con pretensiones históricas. Pero eso fue justo lo que pasó el martes, cuando Donald Trump se sentó a la mesa con nueve líderes de las mayores tecnológicas del país y salió con una hoja firmada que él mismo calificó de "casi una constitución".
En la mesa estaban Elon Musk (SpaceX), Mark Zuckerberg (Meta), Dario Amodei (Anthropic), Jensen Huang (Nvidia), Greg Brockman (OpenAI), Sundar Pichai (Google), Satya Nadella (Microsoft), Lisa Su (AMD) y Nikesh Arora (Palo Alto Networks). El documento se llama Joint Commitment on Frontier Responsibilities.
La idea sobre el papel es sencilla: las empresas se comprometen a montar cuatro capas de supervisión. Primero, una evaluación interna antes de lanzar un modelo. Luego, una auditoría externa independiente. Después, una revisión del consejo sobre lo que arroje esa auditoría. Y finalmente, reuniones periódicas del sector para mantener los estándares de seguridad al día. Se nombran dos riesgos concretos: que la IA ayude en ciberataques y que ayude a diseñar armas biológicas. Ambos han estado en el foco tras informes de comportamientos inesperados en modelos de OpenAI y Anthropic al intentar acceder a sistemas que no debían tocar.
El propio Trump señaló la trampa: el pacto es "moralmente vinculante" pero no tiene peso legal. Cada firma es voluntaria y no hay sanción por incumplirlo más allá del daño reputacional. El plan contempla un comité de supervisión de diez personas, y Trump dijo que nombraría a un asesor de IA dedicado —una especie de "zar de la IA"— en tres o cuatro días.
Una frase del documento resulta más reveladora que el pacto en sí: reconoce que, con el tiempo, "puede tener sentido codificar estos pasos en leyes o regulaciones". Ni los propios firmantes tratan la autorregulación como respuesta definitiva, sino como un parche hasta que lleguen normas de verdad.
Las críticas no tardaron. El senador Mark Warner, demócrata de Virginia, calificó la autorregulación de insuficiente dado el ritmo de la tecnología y repitió su pedido de reglas federales obligatorias. La ironía: apenas dos semanas antes, en una llamada con el CEO de Nvidia, el propio Trump había tachado de "engaño" la alarma sobre la IA. Ahora firma un documento construido enteramente sobre esa misma alarma.
Si una "obligación moral" sin ningún peso legal sirve para algo se verá en los primeros informes de auditoría, suponiendo que las empresas realmente los publiquen.
