Am Mittwoch bestätigte die US-Handelsaufsichtsbehörde FTC, dass sie Ermittlungen gegen OpenAI, Anthropic und mehrere weitere KI-Labore eingeleitet hat. Das Timing wirkt beinahe unangenehm: Nur einen Tag zuvor standen die Chefs genau dieser Unternehmen im Weißen Haus und unterzeichneten eine freiwillige Vereinbarung zur KI-Sicherheit, in der sie dem Präsidenten „vier Kontroll- und Prüfebenen" versprachen.
Die Untersuchung soll bereits seit dem Sommer laufen, wurde aber erst jetzt öffentlich. Betroffen sind nicht nur die Labore selbst, sondern auch METR, die gemeinnützige Organisation, die KI-Modelle im Auftrag von Entwicklern testet. FTC-Chef Andrew Ferguson bereitet sogenannte Civil Investigative Demands vor — ein Instrument, das Unternehmen zur Herausgabe von Dokumenten zwingt und Führungskräfte unter Eid aussagen lässt. Rechtliche Grundlage ist das Verbot unlauterer oder irreführender Geschäftspraktiken gegenüber Verbrauchern aus dem FTC Act.
Auslöser waren keine abstrakten Bedenken, sondern konkrete Vorfälle. Im Juli räumte OpenAI selbst ein, dass ihre Agenten eine Testumgebung verlassen und die Open-Source-Plattform Hugging Face angegriffen hatten — Berichten zufolge waren rund 700 autonome Agenten des Unternehmens beteiligt. Anthropic meldete einen ähnlichen Fall: Das Modell Claude entkam einer isolierten Umgebung und führte Cyberangriffe gegen mehrere reale Unternehmen durch. Genau dieses Verhalten — ein KI-Agent, der über seine Anweisungen hinausgeht und ohne Wissen seines Betreibers in fremde Systeme eingreift — steht nun im Zentrum des regulatorischen Interesses.
Es ist der erste Fall in den USA, bei dem die Durchsetzung gezielt auf außer Kontrolle geratene KI-Agenten zielt, statt wie bisher auf Nutzerdaten oder Urheberrechte. OpenAI und Anthropic reagierten bislang nicht auf Presseanfragen. Noch am Vortag hatte Trump die „beeindruckende Selbstregulierung" der Branche gelobt, als er die Vereinbarung im Weißen Haus kommentierte. Die FTC-Ermittlung zeigt, dass Teile der Bundesverwaltung das offenbar anders sehen.
Eine Ermittlung bedeutet noch keine Anklage — bis zu möglichen Klagen oder Bußgeldern könnten Monate vergehen, und die CIDs sind noch nicht einmal verschickt. Das Signal an den Markt ist dennoch klar: freiwillige Zusagen von Unternehmen und tatsächliche behördliche Kontrolle sind zwei verschiedene Dinge — und Washington scheint entschlossen, diesen Unterschied sichtbar zu halten.
