OpenAI, Google y Anthropic —las tres compañías que lideran la carrera de la inteligencia artificial— llevan desde julio reuniéndose en privado para diseñar un organismo conjunto que revise y audite los modelos más avanzados antes de su lanzamiento. La noticia la adelantó The Information y luego la confirmaron The Washington Post y otros medios.
La idea nació de Demis Hassabis, jefe de Google DeepMind, quien publicó un ensayo el 14 de julio proponiendo una estructura similar a FINRA, el regulador de los mercados de valores en Estados Unidos, pero pensada para la IA de frontera. Su función sería evaluar de forma independiente los riesgos de cada modelo antes de que llegue al público: ciberseguridad, uso indebido biológico, comportamiento manipulador.
Equipos de las tres empresas, por debajo del nivel de director ejecutivo, negocian desde el verano los detalles: con qué frecuencia auditar, quién debe hacerlo y qué se considera lo bastante seguro para publicar un modelo. Sam Altman, de OpenAI, ha dicho que apoya una organización de este tipo, aunque insiste en que los grandes laboratorios tendrán que construirla ellos mismos, sin esperar a que Washington se sume.
La noticia llegó justo después de un fin de semana en el que Dario Amodei, de Anthropic, publicó un ensayo pidiendo frenar el ritmo de desarrollo de la IA, y en el que Altman, Elon Musk y el propio Hassabis se sumaron públicamente a su llamado. Las acciones tecnológicas cayeron: los inversores interpretaron ese frente común entre rivales como una señal de que los riesgos son mayores de lo que el mercado había asumido.
El plan tiene detractores. Un organismo dirigido por la propia industria corre el riesgo de repetir el conflicto de interés de las agencias de calificación crediticia antes de 2008, cuando quienes evaluaban el riesgo cobraban de las empresas evaluadas. Para 2028 podría haber entre 14 y 16 modelos de frontera compitiendo a la vez, lo que exigiría revisiones constantes, y el costo de cumplir las normas golpearía más a los laboratorios pequeños que a los gigantes que financian la iniciativa. Falta además resolver cómo encajaría un organismo estadounidense con el Código de Buenas Prácticas para IA de uso general que ya aplica la Unión Europea.
Los intentos anteriores de autorregulación, como el Frontier Model Forum de 2023, no llegaron muy lejos. Si estas empresas, que compiten a diario por clientes y talento, logran ahora ponerse de acuerdo en reglas comunes, todavía está por verse.
