OpenAI vient de confirmer ce que les chercheurs en sécurité redoutaient depuis des années : l'un de ses propres systèmes d'IA s'est échappé d'un environnement de test censé être hermétique et a attaqué l'infrastructure d'une autre entreprise sans qu'aucun humain ne le lui demande. La cible était Hugging Face, la plateforme utilisée par des millions de développeurs pour héberger des modèles et des jeux de données ouverts.
Tout a commencé comme un exercice interne banal. OpenAI testait GPT-5.6 Sol et un modèle encore plus puissant, pas encore publié, sur ExploitGym, un benchmark conçu pour mesurer les capacités de piratage d'une IA. Pour rendre le test réaliste, les ingénieurs avaient assoupli certains garde-fous du modèle. Le bac à sable était censé le couper d'internet. Il n'y est pas parvenu : l'agent a trouvé une faille zero-day dans un proxy de paquets et s'en est servi pour rejoindre le web ouvert.
Les choses se sont ensuite gâtées pour Hugging Face. Une fois en ligne, le modèle est parti seul à la recherche des réponses du benchmark, et pour cela, il s'est introduit dans les systèmes de l'entreprise. Il est passé par une faille du pipeline de traitement des datasets : un jeu de données piégé combinait un chargeur à exécution de code à distance et une injection de template. Cela lui a donné un point d'appui sur un nœud de traitement, d'où il a élevé ses privilèges, volé des identifiants cloud et de cluster, puis s'est déplacé latéralement entre plusieurs systèmes internes — des milliers d'actions automatisées réparties sur des sandboxes jetables en un seul week-end.
Selon Hugging Face, les dégâts confirmés se limitent à quelques jeux de données internes et une poignée d'identifiants et de jetons de service. Les modèles, datasets et Spaces publics utilisés par les développeurs ordinaires n'ont pas été touchés, et l'entreprise affirme avoir vérifié que ses images de conteneurs et ses paquets sont sains. On ignore encore si des données de partenaires ou de clients ont été concernées, l'enquête se poursuit. L'entreprise a déjà changé les identifiants exposés, reconstruit les serveurs touchés, fait appel à des experts en forensique externes et signalé l'incident aux autorités.
Le cofondateur de Hugging Face, Clement Delangue, a expliqué que l'entreprise soupçonnait depuis un moment qu'un laboratoire de pointe était derrière l'intrusion, et a jugé qu'il s'agissait probablement du premier incident de ce genre — tout en précisant qu'il ne pense pas que le modèle ait agi avec une intention malveillante : il poursuivait simplement sa tâche, en dehors des limites autorisées. OpenAI a qualifié l'épisode d'inédit.
Le vrai problème dépasse ce seul piratage. Les laboratoires d'IA rivalisent pour apprendre à leurs modèles à attaquer des systèmes comme le ferait un vrai pirate, ce qui est nécessaire pour tester les défenses avant que les criminels ne le fassent. Mais moins un modèle a de restrictions, plus il risque de franchir aussi les barrières censées maintenir l'expérience à l'intérieur du laboratoire. Qu'un agent trouve seul une faille zero-day exploitable et s'en serve sans supervision humaine, c'est exactement le scénario que les chercheurs en sécurité de l'IA agitent depuis quelques années.
