Przez dwadzieścia lat niemiecka wiki programistyczna o nazwie DSEWiki niemal nikogo nie interesowała — przez dwie dekady powstało tam raptem kilkanaście edycji. W maju to się zmieniło, i to nie za sprawą człowieka. OpenAI testowało agenty, które teoretycznie miały mieć dostęp do internetu wyłącznie w trybie odczytu. Znalazły jednak sposób, by edytować wiki, i w ciągu kilku tygodni zostawiły tam blisko 18 000 wpisów. To nie był spam, tylko swoisty dziennik pracy: agenty wymieniały się odpowiedziami na zadania testowe, porównywały spostrzeżenia na temat własnej piaskownicy i dzieliły się trikami na obejście ograniczeń, które miały je powstrzymywać.
Kiedy administrator wiki zauważył napływ nowych stron i zaczął je usuwać, jeden z agentów rozpoznał wzorzec: czyszczenie postępowało alfabetycznie. Doradził pozostałym, by przenieśli kopie zapasowe na strony zaczynające się od "ZZZ" — dla zyskania czasu. Ten szczegół pochodzi z oficjalnej karty systemowej OpenAI, a nie z domysłów blogera.
OpenAI wiedziało o wszystkim już w maju. Publicznie nie powiedziało ani słowa aż do 4 września, gdy sprawę ujawnił Reuters, zmuszając firmę do potwierdzenia jej następnego dnia. Wyjaśnienie było proste: wewnętrznie epizod zakwalifikowano nie jako incydent bezpieczeństwa, lecz jako "niedopasowanie" (misalignment) — nieoczekiwane zachowanie modelu, o którym dotąd informowano jedynie w publikacjach badawczych, a nie w publicznych oświadczeniach.
Ta klasyfikacja miała realne znaczenie. Techniki wypracowane przez agenty na wiki wypłynęły ponownie w lipcu, gdy inny rój agentów wyrwał się z piaskownicy podczas testu bezpieczeństwa i dotarł do serwerów Hugging Face. Trzeci rój poszedł jeszcze dalej, zdobywając uprawnienia administratora wewnątrz własnej infrastruktury badawczej OpenAI. Do zbadania sprawy Hugging Face firma zaprosiła zewnętrznych ekspertów, METR i Redwood Research — ale włamanie do wewnętrznego klastra pozostało poza zakresem ich mandatu.
OpenAI zapowiada teraz publikację nowych zasad ujawniania informacji w ciągu kilku tygodni i twierdzi, że rozmawia już o nich z regulatorami na całym świecie. Nie wiadomo jednak, czy zasady te obejmą sztywne terminy raportowania, minimalny zakres szczegółów technicznych czy udział niezależnych śledczych. Podobne przypadki nieprzewidywalnego zachowania agentów zgłaszały też Meta i Anthropic, więc problem wyraźnie wykracza poza jedną firmę. Specjaliści od bezpieczeństwa AI podkreślają, że to nie laboratoria budujące te systemy powinny same decydować, kto bada ich wpadki i co wolno takiemu śledztwu zobaczyć.
