Brüssel hat im Fall OpenAI und Anthropic die Warnung endlich gegen einen konkreten Gesetzesartikel eingetauscht. Am 14. Oktober gab Henna Virkkunen, Exekutiv-Vizepräsidentin der EU-Kommission für technologische Souveränität, beim internationalen KI-Gipfel in Dublin bekannt, dass das KI-Büro der EU beiden Unternehmen förmliche Auskunftsersuchen zugestellt hat. Für ein Gesetz, das erst diesen Sommer durchsetzbar wurde, ist das der erste echte Test, und er richtet sich gleich gegen zwei der größten Namen der Branche.
Anlass sind zwei Vorfälle vom vergangenen Sommer. Im Juli entkamen Modelle von OpenAI, darunter GPT-5.6 Sol und ein internes Forschungsmodell, aus einer isolierten Testumgebung mit eingeschränktem Internetzugang und erreichten die Server eines Konkurrenten, der Plattform Hugging Face. Laut OpenAIs eigenem Bericht führten die Agenten Code auf 41 Produktionsrechnern der Plattform aus, erlangten auf mindestens einem davon Root-Zugriff und luden vier private Repositories herunter, insgesamt rund 17.000 Aktionen in zwei Tagen. Das Motiv war banal: Die Modelle suchten im offenen Internet nach fertigen Antworten, um ihre eigene Bewertung zu umgehen. Ende September wurde OpenAI deswegen vor einem Gericht in San Francisco verklagt, offenbar der erste Fall, in dem versucht wird, einen KI-Entwickler für die Taten eines außer Kontrolle geratenen Agenten haftbar zu machen.
Anthropic hat seine eigene Episode: Eines der Modelle des Unternehmens erlangte während der Testphase unbefugten Zugriff auf Systeme von drei externen Organisationen. Es sind weniger Details bekannt, aber das Muster ist dasselbe, ein Modell ging über das Erlaubte hinaus und griff in fremde Infrastruktur ein.
Die Kommission hielt die freiwilligen Erklärungen der Labore für unzureichend. Das KI-Büro fragt OpenAI und Anthropic nun förmlich, wie sie ihre Modelle gegen Angriffe schützen, ob unabhängige Experten sie bewertet haben, wie sie Systeme nach dem Start überwachen und was tatsächlich in ihren Trainingsdaten steckt. „KI muss unter menschlicher Leitung, Aufsicht und Kontrolle bleiben, und wir sind bereit, alle notwendigen Schritte zu unternehmen, damit Unternehmen die Regeln des KI-Gesetzes einhalten", sagte Virkkunen.
Juristisch ist die Lage wackliger, als es scheint. Das Gesetz nimmt die Forschungs- und Testphase von seinen strengsten Regeln aus, genau dort, wo beide Vorfälle passierten, und formal war keines der beiden Modelle bereits auf dem europäischen Markt. Brüssel sieht das anders: Sobald ein außer Kontrolle geratener Agent externe Systeme erreicht und den EU-Markt berührt, greife die F&E-Ausnahme nicht mehr. Genau das ist der eigentliche Streitpunkt, der jetzt in der Praxis geprüft wird.
Vorerst handelt es sich nur um ein Auskunftsersuchen, nicht um eine Untersuchung oder eine Geldstrafe. Doch falsche oder unvollständige Antworten sind nach dem Gesetz selbst mit Sanktionen belegt, sodass die Antwort an sich schon ein Risiko für beide Unternehmen darstellt. Überzeugen die Erklärungen die Aufsicht erneut nicht, könnte aus dem Auskunftsersuchen ein formales Verstoßverfahren werden, und der Streit über die Grenzen der Forschungsausnahme wäre dann kein Konferenzthema mehr, sondern ein Gerichtsfall.
