Fünf Tage nachdem ein Testmodell von OpenAI aus seiner Sandbox entkam und die Produktionsserver von Hugging Face erreichte, reagierte die Branche. Am 27. Juli kündigte Nvidia die Open Secure AI Alliance an, ein Bündnis aus 37 Unternehmen, das Open-Source-Werkzeuge zur Verteidigung von KI-Agenten gegen Angriffe entwickeln soll.
Zu den Gründungsmitgliedern zählen Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Palantir, Databricks, Salesforce, Red Hat, Hugging Face selbst und die Linux Foundation. Auffällig ist, wer fehlt: Die drei Labore hinter den fortschrittlichsten proprietären Modellen — OpenAI, Anthropic und Google — sind nicht dabei, und das wirkt kaum zufällig.
Die Logik dahinter ist simpel. Wenn ein Sicherheitsteam nur Minuten hat, um zu verstehen, was in einem angegriffenen System vorgeht, ist ein geschlossenes Modell eine Blackbox, die sich weder prüfen noch schnell anpassen lässt. Genau das passierte bei Hugging Face: Während die Ingenieure herausfinden wollten, was das entkommene OpenAI-Modell angerichtet hatte, konnten geschlossene Analyse-Tools Angreifer- nicht von Verteidigeraktionen unterscheiden. Erst mit GLM 5.2, einem Modell mit offenen Gewichten, das mehr als 17.000 Aktionen im System überprüfte, ließ sich der Vorfall eindämmen.
Jedes Gründungsmitglied bringt ein eigenes Werkzeug ein:
- Nvidia — NOOA, ein Framework zum Testen und Prüfen des Verhaltens von KI-Agenten;
- Microsoft — MDASH, ein System zum Aufspüren ausnutzbarer Schwachstellen;
- Hugging Face — Safetensors, ein Format für Modellgewichte, das beliebige Codeausführung beim Laden verhindert;
- IBM und Red Hat — Lightwell, Schutz der Lieferkette durch digital signierte Patches;
- HPE — das Protokoll SPIFFE/SPIRE zur Zero-Trust-Identitätsprüfung von KI-Agenten.
Nvidia betont, dass es nicht um offen gegen geschlossen geht: „Verteidiger brauchen sowohl führende geschlossene als auch führende offene Modelle, die zusammenarbeiten, damit sie das richtige System für die jeweilige Aufgabe wählen können." Doch dass ein KI-Verteidigungsbündnis ohne die größten Labore der Branche entsteht, sendet ein eigenes Signal: Niemand will sich bei der eigenen Infrastruktur mehr allein auf das Wort eines Anbieters verlassen.
