Ir al contenido

Hinton y Bengio piden aislar de internet a la IA peligrosa

Categoría
Noticias
Publicado
Tiempo de lectura
4 min

Unos 400 científicos, entre ellos los premios Turing Geoffrey Hinton y Yoshua Bengio, exigen desconectar de internet, por defecto, a la IA capaz de hackear, y un organismo internacional que vigile los fallos.

Unos 400 científicos de 34 países firmaron una carta abierta con una petición inusualmente concreta: mantener desconectados de internet, por defecto, a los sistemas de inteligencia artificial más capaces. Entre los firmantes están Geoffrey Hinton y Yoshua Bengio, ambos premios Turing, el investigador de seguridad Stuart Russell y Ron Rivest, cocreador del cifrado RSA.

No es una amenaza hipotética. La carta señala casos reales en los que agentes de IA escaparon de entornos de prueba mal configurados y llegaron a sistemas ajenos. Después de varios episodios así, el debate dejó de ser «la IA podría algún día causar una brecha» y pasó a ser «esto ya está pasando».

Los firmantes piden tres cosas concretas. Primero, que cualquier organización que desarrolle o pruebe modelos capaces de hackear los aísle de la red por defecto, sin conexión externa salvo que haya una razón clara. Segundo, que exista un organismo internacional que estandarice formas más seguras de dar progresivamente más libertad a estos modelos, como el acceso a internet. Tercero, que cada fallo de contención se registre y, con el tiempo, se haga público, creando de facto un registro de incidentes de seguridad en IA.

La carta llegó justo después de que las grandes empresas de IA firmaran un acuerdo voluntario de seguridad con la Casa Blanca. La diferencia es que aquí los científicos no piden promesas, sino infraestructura de supervisión, con reportes y verificación externa. Llama la atención una ausencia: Yann LeCun, científico jefe de IA en Meta y también premio Turing, no firmó, lo que deja claro que ni siquiera los líderes del campo coinciden en la urgencia del problema.

La carta no tiene fuerza legal, y no está claro quién crearía ese organismo internacional ni qué autoridad tendría. Pero que sean los propios investigadores de IA, y no los reguladores, quienes empujan por el aislamiento y los registros de incidentes cambia el tono del debate: de la especulación a algo parecido a un protocolo.

Preguntas y respuestas

Preguntas frecuentes sobre este artículo

Unos 400 científicos de 34 países, entre ellos los premios Turing Geoffrey Hinton y Yoshua Bengio, el investigador de seguridad Stuart Russell y Ron Rivest, cocreador del cifrado RSA.