Carlos III convoca a jefes de Nvidia y OpenAI por seguridad en la IA

iEXExchanger
Carlos III convoca a jefes de Nvidia y OpenAI por seguridad en la IA

El 17 de septiembre, el rey Carlos III reunirá en Escocia a líderes de Nvidia, Google DeepMind y otras potencias de la IA, tras las advertencias de Amodei, Altman y Musk.

Dumfries House, en la campiña de Ayrshire, suele recibir cenas benéficas y visitas de arquitectura. El 17 de septiembre la lista de invitados será otra: los directores de los laboratorios de inteligencia artificial más poderosos del mundo.

El encuentro, organizado por la Fundación Ditchley, reúne a Jensen Huang, de Nvidia; Demis Hassabis, de Google DeepMind; representantes de OpenAI y Anthropic; el asesor vaticano en ética de IA, el padre Paolo Benanti, y el ministro británico de IA, Kanishka Narayan. Carlos III se presenta como un convocante neutral, con una sola pregunta sobre la mesa: cómo desarrollar la IA para el bien de la humanidad, no solo para ampliar sus capacidades.

La fecha no es casual. El 12 de septiembre, el consejero delegado de Anthropic, Dario Amodei, publicó un ensayo pidiendo 'marcar el ritmo de la frontera', advirtiendo que la automejora recursiva de los sistemas de IA se había acelerado bruscamente desde el verano y podría permitir que un modelo tomara el control de buena parte de internet en cuestión de meses. En menos de veinticuatro horas, Sam Altman y Elon Musk le dieron la razón públicamente, un raro gesto de unidad entre rivales que normalmente compiten por cada titular.

No todos en Washington están convencidos de que la cautela sea sincera. El presidente Trump ha subrayado la ventaja de Estados Unidos sobre China y su intención de mantenerla; el presidente de la Cámara, Mike Johnson, descarta cualquier moratoria, y el asesor David Sacks sugirió que la nueva prudencia de las empresas tiene más que ver con gestionar expectativas que con gestionar riesgos.

Dumfries House no producirá normas vinculantes: no es Ginebra. Pero que empresas que llevan un año compitiendo entre sí se sienten a la misma mesa por invitación de un monarca ya dice algo sobre los nervios que recorren la industria.

Preguntas y respuestas

Preguntas frecuentes sobre este artículo

¿Cuándo y dónde es la cumbre de IA de Carlos III?

Está prevista para el 17 de septiembre de 2026 en Dumfries House, Ayrshire, Escocia, organizada por la Fundación Ditchley.

¿Quién asiste?

Entre los invitados confirmados están Jensen Huang (Nvidia), Demis Hassabis (Google DeepMind), representantes de OpenAI y Anthropic, el padre Paolo Benanti (asesor vaticano en IA) y el ministro británico de IA, Kanishka Narayan.

¿Por qué se intensificaron ahora los llamados a frenar la IA?

El 12 de septiembre, el consejero delegado de Anthropic, Dario Amodei, publicó un ensayo pidiendo reducir el ritmo, citando riesgos de la automejora recursiva de los sistemas. Sam Altman y Elon Musk coincidieron públicamente en menos de un día.

¿Cómo ha reaccionado la administración Trump?

El presidente Trump ha insistido en la ventaja de Estados Unidos sobre China y en mantenerla; el presidente de la Cámara, Mike Johnson, rechaza cualquier moratoria, y el asesor David Sacks cuestionó la sinceridad de la cautela de las empresas.