Claude Fable 5 снова работает. Самая мощная общедоступная модель Anthropic вернулась 1 июля — спустя две с половиной недели после того, как её внезапно отключили по требованию властей США.
Причина была серьёзной. В середине июня исследователи Amazon сумели обойти встроенную защиту Fable 5 и заставили её находить реальные уязвимости в софте и писать код для их эксплуатации. После этого министерство торговли США резко ввело экспортные ограничения на Fable 5 и её закрытого «старшего брата» Mythos 5, сославшись на национальную безопасность.
Формально Anthropic обязали закрыть доступ «любому иностранному гражданину — внутри или за пределами США, включая собственных сотрудников-иностранцев». Проверять гражданство пользователей в реальном времени компания не умела, поэтому ей пришлось отключить обе модели по всему миру, чтобы не нарушить правила.
Чтобы вернуть модель, Anthropic за две недели построила новый защитный классификатор, который блокирует именно ту технику взлома, что нашли в Amazon, — с точностью 99%. Министерство торговли всё это время проверяло модели вместе с компанией. В обмен Anthropic согласилась сама искать уязвимости, согласовывать будущие запуски и сообщать о любых попытках злоупотребления. 30 июня ограничения сняли, 1 июля доступ вернули.
История показывает, насколько тесно передовой ИИ теперь связан с государством. Одна удачная попытка взлома — и мощную модель на две недели отключают по всему миру. Для Anthropic это и урок, и цена лидерства: чем сильнее модель, тем ближе к ней регуляторы.
