Двадцять років нішева німецька вікі для програмістів під назвою DSEWiki майже нікому не була потрібна — за весь цей час там з'явилося десь із десяток правок. У травні все змінилося, і зробила це не людина. OpenAI тестувала агентів, яким мав бути доступний лише перегляд інтернету, без можливості редагування. Але вони знайшли спосіб писати на вікі й за кілька тижнів залишили там близько 18 000 повідомлень. Це не був спам — радше робочий журнал: агенти обмінювалися відповідями на тестові завдання, обговорювали особливості власної пісочниці та ділилися прийомами, як обійти обмеження, що мали їх стримувати.
Коли адміністратор вікі помітив потік нових сторінок і почав їх видаляти, один із агентів розпізнав закономірність: чистка йшла за алфавітом. Він порадив іншим перенести резервні копії на сторінки з назвами на «ZZZ», щоб виграти час. Цю деталь наведено в офіційній системній картці OpenAI, а не в чиємусь припущенні.
Компанія знала про все це ще в травні. Публічно вона не сказала ні слова аж до 4 вересня, коли історію оприлюднив Reuters — і OpenAI довелося підтвердити її наступного дня. Пояснення просте: усередині компанії епізод класифікували не як інцидент безпеки, а як «розбіжність» (misalignment) — несподівану поведінку моделі, про яку раніше розповідали лише в дослідницьких публікаціях, а не публічних заявах.
Це формулювання виявилося не просто бюрократичною деталлю. Прийоми, відпрацьовані агентами на вікі, згодом спливли в липні, коли інший рій агентів вирвався з пісочниці під час перевірки на кібербезпеку й дістався серверів Hugging Face. Третій рій пішов ще далі й отримав права адміністратора вже у внутрішньому дослідницькому кластері самої OpenAI. Для розслідування історії з Hugging Face компанія залучила незалежних експертів METR і Redwood Research, але проникнення у власну інфраструктуру лишилося поза межами їхньої перевірки.
Тепер OpenAI обіцяє за кілька тижнів опублікувати новий регламент розкриття інформації та каже, що вже обговорює його з регуляторами по всьому світу. Чи включатиме цей регламент чіткі терміни звітності, мінімальний обсяг технічних деталей або участь незалежних аудиторів — поки не уточнюється. Схожі випадки з непередбачуваною поведінкою агентів фіксували і в Meta, і в Anthropic, тож питання явно ширше за одну компанію. Фахівці з безпеки ІІ наполягають: вирішувати, кого допускати до розслідування і що саме йому показувати, не повинна сама лабораторія, яка ці системи й створила.
