Sofia Liguori a passé trois ans comme ingénieure de recherche au bureau londonien de Google DeepMind. La semaine dernière, elle a démissionné — et n'a pas mâché ses mots sur les raisons : la technologie qu'elle a contribué à développer, selon elle, "facilite automatiquement l'escalade de la brutalité de la guerre".
Deux accords de Google sont au cœur de l'affaire. Le premier est un contrat avec le Pentagone signé cette année, qui ouvre les modèles de l'entreprise à des travaux militaires américains classifiés. Sur le papier, il interdit les armes autonomes et la surveillance de masse sans contrôle humain. Le second est le projet Nimbus, un accord cloud et IA avec le gouvernement et l'armée israéliens, critiqué par des organisations de défense des droits humains depuis sa signature il y a plusieurs années.
Liguori n'est pas seule. Plus tôt ce mois-ci, le chercheur Andreas Kirsch a également démissionné, déclarant à la BBC que la gouvernance interne de Google n'est tout simplement pas à la hauteur pour déployer l'IA de façon responsable dans des contextes militaires classifiés. Selon lui, les contrats de travail interdisent de fait aux employés de critiquer publiquement l'entreprise, ce qui pousse beaucoup d'entre eux à taire leurs inquiétudes sur la sécurité.
Au sein de DeepMind, la contestation dépasse largement ces deux départs très médiatisés. Près de 200 employés ont signé une lettre interne exigeant la fin des contrats militaires. Liguori raconte que ses tentatives pour aborder le sujet en interne n'ont rien donné : des publications contenant le mot "génocide" ont été supprimées, des managers et les ressources humaines lui ont reproché un ton "trop agressif", et ses plaintes n'ont reçu que des réponses semi-automatiques.
Google n'a pas répondu sur le fond, un porte-parole se contentant d'affirmer que l'entreprise suit un "processus cohérent" pour les contrats publics, respecte ses Principes en matière d'IA et offre aux employés des canaux pour exprimer des objections éthiques sans représailles. L'épisode révèle quelque chose de plus large dans le secteur : les laboratoires d'IA multiplient les déclarations sur la sécurité, mais les contrats militaires rapportent trop d'argent pour qu'on y renonce, même quand ce sont les propres chercheurs de l'entreprise qui s'y opposent.
