Ir al contenido

Anthropic redactó su propia ley de IA y la critican por ambos flancos

Categoría
Noticias
Publicado
Tiempo de lectura
5 min

Desde junio, el creador de Claude impulsaba en secreto su propia ley federal de seguridad en IA. Tras filtrarse los detalles, un senador de California y un exasesor de la Casa Blanca la atacaron desde posturas opuestas.

Mientras la mayoría de los gigantes de la IA le pide a Washington que acelere el paso, Anthropic ha hecho justo lo contrario desde junio de 2026: impulsar en silencio su propio borrador de ley federal de seguridad en IA. Los detalles solo salieron a la luz el 16 de octubre, cuando Politico destapó la historia.

Sobre el papel, la propuesta suena acotada. El gobierno solo podría frenar el lanzamiento de un modelo si el riesgo es "previsible e inminente": más de 50 muertos o heridos graves, o más de 1.000 millones de dólares en daños, y únicamente si proviene de armas biológicas, un modelo fuera del control de sus operadores o un ciberataque. Evaluadores independientes registrados en el Departamento de Comercio harían el análisis, con 72 horas para alertar antes de que la agencia deba acudir a un juez federal. Las propias agencias no tendrían poder para bloquear nada por su cuenta.

La reacción llegó desde ambos extremos del espectro político. El senador estatal de California Scott Wiener, autor de la SB 53, dijo que el borrador "se queda muy corto" para proteger la seguridad pública, señalando que no fija mínimos para los planes de seguridad ni para los auditores y que, en la práctica, le quita a los tribunales estatales la capacidad de ordenar una pausa de emergencia. Desde el bando contrario, el exasesor de IA de la Casa Blanca David Sacks advirtió que el umbral de daños era tan bajo que arrastraría a casi todo Silicon Valley, startups incluidas.

El 18 de octubre, Anthony Cimino, al frente de los asuntos federales de Anthropic, admitió que el lenguaje sobre la primacía federal "no era lo bastante preciso" y prometió reescribirlo. Eso apenas calmó las aguas: Nathan Calvin, de Encode AI, dijo que el borrador lo puso "visceralmente furioso" porque parecía bloquear a los tribunales estatales de ordenar una pausa de emergencia.

El 21 de octubre, el propio consejero delegado Dario Amodei intervino con un extenso mensaje en X, reconociendo errores de la compañía pero insistiendo en que competir por capacidades de frontera no contradice su misión de seguridad. Lo incómodo del asunto: en el Congreso ya hay un proyecto bipartidista, la FRONTIER Act, y para la mayoría de los analistas la versión propia de Anthropic resulta notablemente más débil.

Preguntas y respuestas

Preguntas frecuentes sobre este artículo

Washington solo podría bloquear el lanzamiento de un modelo si el riesgo es "previsible e inminente": más de 50 muertos o 1.000 millones de dólares en daños causados por armas biológicas, pérdida de control del modelo o un ciberataque. Evaluadores independientes del Departamento de Comercio valorarían el riesgo, y la decisión final la tomaría un juez federal, no la agencia.