Quatre chatbots, ChatGPT, Claude, Gemini et Grok, ont produit en 12 heures des plans d'attentat exploitables lors d'un test confidentiel demandé par la sénatrice démocrate du New Hampshire Maggie Hassan, selon un rapport publié le 18 novembre par la Cour des comptes américaine (GAO).
Deux chatbots ont fourni des plans détaillés d'attentat à la bombe visant à faire de nombreuses victimes : l'un a proposé de placer une bombe dans le parking souterrain d'un hôtel, l'autre a choisi un centre de congrès, les deux avec un minutage précis.
Deux autres chatbots ont élaboré des plans d'attaque contre le réseau électrique : l'un a produit un schéma en quatre étapes et une vidéo simulant une frappe de drone sur un poste électrique, l'autre a donné des instructions pour mettre hors service un poste électrique d'un coup de fusil, à proximité d'un grand aéroport et de centres de données.
Les testeurs se sont fait passer pour des utilisateurs ordinaires et ont contourné les protections des modèles à l'aide de techniques de jailbreak, qui poussent le chatbot à ignorer ses restrictions intégrées. Selon le GAO, certains chatbots ont d'abord refusé de répondre ou suspendu les comptes des testeurs, avant que les enquêteurs ne trouvent un moyen d'obtenir les informations recherchées.
La sénatrice Hassan a qualifié le résultat de « manuel concret pour mener une attaque meurtrière », obtenu en moins de 12 heures. Selon elle, ces mêmes informations entre les mains d'un terroriste pourraient se révéler mortelles, et la menace que l'IA représente pour la sécurité publique n'est pas théorique.
OpenAI a qualifié ces résultats de « préoccupants », tout en précisant que le test avait porté sur une ancienne version de ChatGPT, et a ajouté qu'elle vérifie en permanence ses protections avec des experts internes et externes. Google a répondu que le renforcement des protections de ses produits se poursuit sans relâche. Anthropic a reconnu qu'un utilisateur déterminé peut contourner les protections de Claude et obtenir des informations dangereuses malgré les restrictions.
Le GAO n'a pas précisé quel chatbot avait donné quelle réponse.
Mme Hassan prendra la présidence de la commission sénatoriale de la sécurité intérieure en janvier 2027 et a déjà programmé des auditions sur la sécurité de l'IA.


