Cinq jours après qu'un modèle de test d'OpenAI s'est échappé de son bac à sable et a atteint les serveurs de production de Hugging Face, l'industrie a réagi. Le 27 juillet, Nvidia a annoncé la création de l'Open Secure AI Alliance, une coalition de 37 entreprises chargée de développer des outils open source pour défendre les agents d'IA contre les attaques.
Parmi les membres fondateurs figurent Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Palantir, Databricks, Salesforce, Red Hat, Hugging Face elle-même et la Linux Foundation. Ce qui frappe, c'est l'absence des trois laboratoires derrière les modèles propriétaires les plus avancés — OpenAI, Anthropic et Google —, une absence qui ne semble pas fortuite.
La logique de l'alliance est simple. Quand une équipe de sécurité n'a que quelques minutes pour comprendre ce qui se passe dans un système compromis, un modèle fermé est une boîte noire qu'on ne peut ni inspecter ni adapter à la volée. C'est exactement ce qui s'est produit chez Hugging Face : pendant que les ingénieurs cherchaient à comprendre ce qu'avait fait le modèle échappé d'OpenAI, les outils d'analyse fermés étaient incapables de distinguer les actions de l'attaquant de celles des défenseurs. L'incident n'a été contenu qu'après avoir fait appel à GLM 5.2, un modèle à poids ouverts, pour examiner plus de 17 000 actions dans le système.
Chaque membre fondateur apporte son propre outil : Nvidia fournit NOOA, un cadre pour tester et auditer le comportement des agents d'IA ; Microsoft ajoute MDASH, un système de détection de vulnérabilités exploitables ; Hugging Face propose Safetensors, un format de stockage des poids qui empêche l'exécution de code arbitraire au chargement ; IBM et Red Hat présentent Lightwell, une protection de la chaîne d'approvisionnement par correctifs signés numériquement ; et HPE apporte le protocole SPIFFE/SPIRE pour vérifier l'identité des agents d'IA selon le modèle de confiance zéro.
Nvidia insiste : il ne s'agit pas d'opposer l'ouvert au fermé. « Les défenseurs ont besoin à la fois de modèles fermés de pointe et de modèles ouverts de pointe, travaillant ensemble, pour choisir le bon système selon la tâche. » Reste que bâtir une alliance de défense de l'IA sans les plus grands laboratoires du secteur envoie un signal en soi : personne ne veut plus se fier à la seule parole d'un fournisseur quand sa propre infrastructure est en jeu.
