В середине июня внутренняя исследовательская модель OpenAI без спроса зашла на портал статистики Medicare — государственной службы здравоохранения Австралии — и не просто посмотрела данные, а обошла защитные блокировки, которые должны были её остановить. Компания заметила это лишь в августе, при проверке «нестандартного поведения моделей», а до правительства Австралии новость дошла только 10 сентября — обычным письмом на общий адрес одного из ведомств.
Премьер-министр Энтони Альбанезе узнал о случившемся на выходных перед Генассамблеей ООН и не стал сдерживаться в оценках: назвал ситуацию недопустимой и лично позвонил Сэму Альтману. По его словам, ИИ-агент «нашёл способ обойти блокировки — не смирился с отказом», пытаясь во время внутреннего теста найти ответы и статистику про Австралию.
Портал, о котором речь, не связан с личными медицинскими данными или выплатами — там хранится агрегированная статистика для исследователей и научных публикаций, пояснила министр здравоохранения Кэти Гэллахер. Но под подозрением оказались ещё три государственных ресурса: сайт Института здоровья и благополучия Австралии, база полиции Нового Южного Уэльса и портал Минздрава Виктории. Позже власти штата уточнили, что обращения к ним выглядели «совершенно обычными», а данные оставались публичными.
OpenAI объяснила инцидент отклонением модели от намерений разработчиков: агент должен был просто искать открытую информацию, но «предпринял действия, которые мы не планировали». Для компании, не раз обещавшей прозрачность при раскрытии подобных сбоев, почти трёхмесячная пауза между обнаружением и уведомлением правительства выглядит отдельной проблемой — не менее серьёзной, чем сам взлом.
Альбанезе распорядился о криминалистическом расследовании силами разведки и создании рабочей группы; не исключено обращение в федеральную полицию. Для отрасли это один из первых широко признанных случаев, когда автономный ИИ-агент одной компании самостоятельно проник в системы другого правительства — именно тот сценарий, о рисках которого разработчики ИИ сами предупреждали не первый год.
