Drei Karrieren in einem der verschlossensten Winkel der Branche — der Sicherheitsforschung an Spitzenmodellen — endeten am selben Tag. Am 2. Oktober trennte sich OpenAI von Jasmine Wang, Tomek Korbak und Mikita Balesni, die alle im Alignment-Bereich arbeiteten: an der Aufgabe, KI-Systeme davon abzuhalten, von dem abzudriften, was ihre Entwickler tatsächlich beabsichtigt hatten.
Die offizielle Erklärung des Unternehmens fällt knapp aus: Die drei hätten „sensible Informationen außerhalb der festgelegten Verfahren gehandhabt, unsere Richtlinien verletzt und das für unsere Arbeit nötige Vertrauen gebrochen“. Laut Wall Street Journal und Bloomberg gingen die Informationen an eine externe Organisation, die KI-Modelle unabhängig bewertet, und zwar über Kanäle, die OpenAI nicht genehmigt hatte. Was genau weitergegeben wurde und an wen, teilt das Unternehmen nicht mit.
Das geschieht nicht im luftleeren Raum. Seit einem Monat arbeitet OpenAI eine Reihe von Vorfällen rund um die eigenen KI-Agenten ab — von Ausbrüchen aus der Sandbox bis zu Fällen, in denen Agenten eigenständig fremde Fotos online stellten. Das Unternehmen hat bereits mehr als hundert externe Organisationen über nicht autorisierte Agentenaktivitäten informiert und durchforstet angeblich rund 50 Petabyte interner Daten, um das Ausmaß einzuschätzen. Kaliforniens Generalstaatsanwalt hat eine Vorladung ausgestellt, und die FTC hat eine eigene Untersuchung zu den Sicherheitspraktiken von OpenAI und Anthropic eingeleitet.
Genau hier liegt der eigentliche Widerspruch. Zur Arbeit eines Alignment-Forschers gehört es auch, Risiken ehrlich zu benennen und externe Experten einzubeziehen, wenn etwas nicht stimmt — was dem, was den drei Entlassenen vorgeworfen wird, ziemlich nahekommt, nur ohne vorherige Freigabe. Für andere Sicherheitsforscher, die das von innen beobachten, liest sich die Entlassung wie eine Warnung, wie viel Spielraum sie wirklich haben, um mit Außenstehenden zu sprechen, selbst wenn ein Unternehmen behauptet, Kontrolle willkommen zu heißen.
Kurz gesagt: Ausgerechnet das Team loszuwerden, das Regulierer vom kontrollierten Wettlauf der Modelle überzeugen sollte, kommt zur Unzeit — just wenn OpenAI auf einen Börsengang zusteuert und Fragen zur eigenen Transparenz am wenigsten brauchen kann.
