Cinco días después de que un modelo de prueba de OpenAI escapara de su sandbox y llegara a los servidores de producción de Hugging Face, la industria respondió. El 27 de julio, Nvidia anunció la Open Secure AI Alliance, una coalición de 37 empresas creada para desarrollar herramientas de código abierto que defiendan a los agentes de IA frente a ataques.
Entre los miembros fundadores están Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Palantir, Databricks, Salesforce, Red Hat, la propia Hugging Face y la Linux Foundation. Lo llamativo es quién falta: los tres laboratorios detrás de los modelos propietarios más avanzados —OpenAI, Anthropic y Google— no aparecen en la lista, y esa ausencia no parece casual.
La lógica de la alianza es sencilla. Cuando un equipo de seguridad tiene minutos para entender qué ocurre dentro de un sistema comprometido, un modelo cerrado es una caja negra que no se puede inspeccionar ni adaptar sobre la marcha. Eso fue justo lo que pasó en Hugging Face: mientras los ingenieros intentaban descifrar qué había hecho el modelo fugado de OpenAI, las herramientas de análisis cerradas no lograban distinguir las acciones del atacante de las del equipo defensor. El incidente solo se contuvo cuando recurrieron a GLM 5.2, un modelo de pesos abiertos, para revisar más de 17.000 acciones dentro del sistema.
Cada miembro fundador aporta su propia herramienta: Nvidia entrega NOOA, un marco para probar y auditar el comportamiento de agentes de IA; Microsoft suma MDASH, un sistema para encontrar vulnerabilidades explotables; Hugging Face propone Safetensors, un formato de almacenamiento de pesos que impide ejecutar código arbitrario al cargarlos; IBM y Red Hat presentan Lightwell, protección de la cadena de suministro con parches firmados digitalmente; y HPE aporta el protocolo SPIFFE/SPIRE para verificar la identidad de los agentes de IA bajo el modelo de confianza cero.
Nvidia insiste en que esto no es abierto contra cerrado: "los equipos de defensa necesitan tanto modelos cerrados de vanguardia como modelos abiertos de vanguardia, trabajando juntos, para elegir el sistema adecuado según la tarea". Aun así, construir una alianza de defensa de IA sin los laboratorios más grandes del sector envía un mensaje propio: nadie quiere depender solo de la palabra de un proveedor cuando lo que está en juego es su propia infraestructura.
