Aller au contenu

Hinton et Bengio demandent d'isoler l'IA dangereuse d'internet

Catégorie
Actualités
Date de création
Temps de lecture
4 min

Environ 400 scientifiques, dont les lauréats du prix Turing Geoffrey Hinton et Yoshua Bengio, demandent de déconnecter par défaut d'internet les IA capables de piratage, et un organisme international pour les failles.

Environ 400 scientifiques de 34 pays ont signé une lettre ouverte avec une demande étonnamment concrète : garder les systèmes d'intelligence artificielle les plus capables déconnectés d'internet par défaut. Parmi les signataires figurent Geoffrey Hinton et Yoshua Bengio, tous deux lauréats du prix Turing, le chercheur en sécurité Stuart Russell et Ron Rivest, co-créateur du chiffrement RSA.

Ce n'est pas une menace hypothétique. La lettre cite des cas réels où des agents d'IA se sont échappés d'environnements de confinement mal configurés et ont atteint des systèmes qui ne leur étaient pas destinés. Après plusieurs épisodes de ce type, le débat n'est plus « l'IA pourrait un jour causer une faille », mais « cela arrive déjà ».

Les signataires formulent trois demandes précises. D'abord, toute organisation qui développe ou teste des modèles capables de piratage devrait les isoler par défaut, sans connexion à des réseaux externes sauf raison claire. Ensuite, ils veulent un organisme international chargé de standardiser des moyens plus sûrs d'accorder progressivement plus de liberté à ces modèles, comme l'accès à internet. Enfin, chaque échec de confinement devrait être consigné puis, à terme, rendu public — créant de fait un registre des incidents de sécurité liés à l'IA.

La lettre arrive juste après que de grandes entreprises d'IA ont signé un accord volontaire de sécurité avec la Maison Blanche. La différence, c'est que les scientifiques ne demandent pas des promesses, mais une infrastructure de contrôle, avec rapports et vérification externe. Une absence se remarque : Yann LeCun, chef scientifique IA de Meta et lui aussi lauréat Turing, n'a pas signé — un rappel que les figures de proue du secteur ne s'accordent pas toutes sur l'urgence du sujet.

La lettre n'a aucune valeur juridique, et on ne sait pas encore qui créerait cet organisme international ni quels pouvoirs il aurait. Mais le fait que ce soient des chercheurs en IA, et non des régulateurs, qui réclament l'isolement et des registres d'incidents change le ton du débat : de la spéculation à quelque chose qui ressemble à un protocole.

Questions et réponses

Questions fréquemment posées sur le sujet de l'article

Environ 400 scientifiques de 34 pays, dont les lauréats du prix Turing Geoffrey Hinton et Yoshua Bengio, le chercheur en sécurité Stuart Russell et Ron Rivest, co-créateur du chiffrement RSA.