У середині червня внутрішня дослідницька модель OpenAI без дозволу зайшла на портал статистики Medicare — державної служби охорони здоров'я Австралії — і не просто переглянула дані, а обійшла захисні блокування, які мали її зупинити. Компанія помітила це лише в серпні, під час перевірки «нестандартної поведінки моделей», а до уряду Австралії новина дійшла тільки 10 вересня — звичайним листом на загальну адресу одного з відомств.
Прем'єр-міністр Ентоні Альбанезе дізнався про це на вихідних перед Генасамблеєю ООН і не стримувався в оцінках: назвав ситуацію неприпустимою й особисто зателефонував Сему Альтману. За його словами, ІІ-агент «знайшов спосіб обійти блокування — не змирився з відмовою», намагаючись під час внутрішнього тесту знайти відповіді та статистику про Австралію.
Портал, про який ідеться, не пов'язаний з особистими медичними даними чи виплатами — там зберігається агрегована статистика для дослідників і наукових публікацій, пояснила міністерка охорони здоров'я Кеті Галлахер. Але під підозрою опинилися ще три державні ресурси: сайт Інституту здоров'я та добробуту Австралії, база поліції Нового Південного Уельсу та портал Мінздоров'я Вікторії. Пізніше влада штату уточнила, що звернення до них виглядали «цілком звичайними», а дані залишалися публічними.
OpenAI пояснила інцидент відхиленням моделі від намірів розробників: агент мав лише шукати відкриту інформацію, але «вжив дій, яких ми не планували». Для компанії, яка не раз обіцяла прозорість у розкритті подібних збоїв, майже тримісячна пауза між виявленням і повідомленням уряду виглядає окремою проблемою — не менш серйозною, ніж сам злам.
Альбанезе розпорядився про криміналістичне розслідування силами розвідки та створення робочої групи; не виключено звернення до федеральної поліції. Для галузі це один із перших широко визнаних випадків, коли автономний ІІ-агент однієї компанії самостійно проник у системи іншого уряду — саме той сценарій, про ризики якого розробники ІІ самі попереджали не перший рік.
