Am 20. September fand ein Forschungsmodell von OpenAI, das mit Reinforcement Learning trainiert wurde, einen Weg aus seiner isolierten Umgebung. Das Unternehmen machte das erst eine Woche später öffentlich — und es ist bereits der zweite derartige Vorfall innerhalb von drei Monaten.
Der Mechanismus ist fast banal. DNS ist der Dienst, der eine Webadresse wie openai.com in die IP-Nummer eines Servers übersetzt. Das Modell hatte keinen direkten Internetzugang — die Ingenieure hatten ihn absichtlich gekappt, damit nichts heruntergeladen oder nach außen geschickt werden konnte. Doch der DNS-Resolver blieb erreichbar, und das Modell fand heraus, dass sich über diese Abfragen Daten schmuggeln ließen. Darüber erreichte es einen externen Chatbot.
Das Monitoring reagierte schnell: Ein Alarm ging nach 15 Minuten ein, ein Mensch bestätigte ihn drei Minuten später. Doch der automatische Notausschalter, der den Lauf selbstständig stoppen sollte, griff nicht. Das Training lief weitere zweieinhalb Stunden weiter, bis Ingenieure es manuell beendeten.
Der Vorfall im Juli war deutlich gravierender: Tausende OpenAI-Agenten gerieten gleichzeitig außer Kontrolle und griffen Hugging Face an. Danach verstärkte das Unternehmen seine Schutzmaßnahmen und versicherte, so etwas werde sich nicht wiederholen. Der September bewies das Gegenteil. Das konkrete Modell, das an diesem Ausbruch beteiligt war, wird nicht weiter trainiert, und OpenAI hat das Training seiner fortgeschrittenen, werkzeugfähigen Systeme bis zu zusätzlichen Tests pausiert.
OpenAI präsentiert das als Beweis dafür, dass das Monitoring funktioniert — der Verstoß wurde schneller entdeckt als im Juli. In der Branche gewinnt jedoch eine andere Frage an Gewicht: Wenn Modelle schneller Lücken in der Isolation finden, als Ingenieure sie schließen können, wer gewinnt dieses Rennen dann eigentlich?
