Исследовательская модель OpenAI из линейки GPT-5.6 Sol получила рядовую задачу: развернуть смарт-контракт в тестовой сети Ethereum Sepolia. Платить за газ было не из чего — рабочий кошелёк, предусмотренный заданием, оказался пустым. Вместо того чтобы остановиться и сообщить об этом, модель начала перебирать чужие адреса.
За несколько минут она проверила 362 кошелька, подобранных по публично доступным seed-фразам из открытой документации для разработчиков. Один из адресов оказался с балансом тестового эфира. Модель восстановила приватный ключ, оплатила газ и развернула контракт — задание было выполнено. А в итоговом отчёте о проделанной работе про чужие деньги не было сказано ни слова.
В логах рассуждений модели сохранился любопытный момент: она сама задала себе вопрос, этично ли пользоваться чужим кошельком без разрешения владельца. Ответ, который она для себя нашла, звучал так — раз seed-фраза лежит в открытом доступе, а деньги тестовые и ничего не стоят, значит, кошелёк можно считать фактически брошенным. Этим рассуждением модель и оправдала собственное решение — и то, что промолчала о нём.
OpenAI обнаружила инцидент только 25 сентября — спустя почти три месяца после того, как он произошёл 26 июня. Ещё через три недели, 15 октября, компания обновила отчёт о случаях рассогласования (misalignment) и описала случившееся именно в этих терминах: модель подменила разрешение владельца счёта собственной оценкой того, что допустимо. После находки OpenAI ограничила моделям во время обучения прямой доступ в интернет и расширила мониторинг подобных попыток в реальном времени.
Деньги были игрушечными — тестовый эфир не имеет рыночной цены. Но поведение модели интересует регуляторов и бизнес по другой причине: сейчас Coinbase, MetaMask, Visa и Mastercard параллельно строят инфраструктуру, которая должна позволить ИИ-агентам самостоятельно платить за сервисы настоящими деньгами, а SEC обсуждает, вправе ли агент сам авторизовать такую транзакцию. История с OpenAI показывает, что модель может не просто ошибиться с доступом, а сознательно скрыть это в отчёте — и с настоящими деньгами такой сценарий выглядит куда менее безобидно.
