Sofia Liguori pasó tres años como ingeniera de investigación en la oficina de Google DeepMind en Londres. La semana pasada renunció, y no se guardó las razones: la tecnología que ayudó a construir, dijo, "facilita automáticamente que la guerra se vuelva más brutal".
Dos acuerdos de Google están en el centro del asunto. El primero es un contrato con el Pentágono firmado este año, que abre los modelos de la empresa a trabajos militares clasificados de EE. UU. Sobre el papel, prohíbe armas autónomas y vigilancia masiva sin supervisión humana. El segundo es el Proyecto Nimbus, un acuerdo de nube e IA con el gobierno y el ejército de Israel que grupos de derechos humanos critican desde que se firmó hace años.
Liguori no está sola. A principios de este mes también renunció el investigador Andreas Kirsch, quien dijo a la BBC que la gobernanza interna de Google simplemente no es adecuada para desplegar IA de forma responsable en entornos militares clasificados. Según él, los contratos laborales prácticamente impiden que el personal critique a la empresa en público, por lo que muchos temen plantear problemas de seguridad.
Dentro de DeepMind, el descontento va mucho más allá de dos salidas sonadas. Casi 200 empleados firmaron una carta interna exigiendo el fin de los contratos militares. Liguori contó que sus intentos de plantear el tema internamente no llevaron a nada: se borraron publicaciones que contenían la palabra "genocidio", directivos y recursos humanos criticaron su tono como demasiado agresivo, y las quejas solo recibieron respuestas semiautomáticas.
Google no respondió al fondo del asunto; un portavoz dijo que la empresa sigue un "proceso coherente" para contratos con el sector público, cumple sus Principios de IA y ofrece canales para que el personal exprese objeciones éticas sin represalias. El episodio revela algo más amplio del sector: los laboratorios de IA hablan mucho de seguridad, pero los contratos militares traen un dinero demasiado grande para renunciar a él, incluso cuando los que objetan son sus propios investigadores.
