Люди, которые сами строят самые мощные модели ИИ в мире, публично попросили государство подготовить для них тормоз. 28 июля более 1100 сотрудников OpenAI, Anthropic, Google DeepMind и Meta подписали совместное заявление под названием «Pacing the Frontier» — просьбу к правительству США помочь создать международный механизм, способный скоординированно замедлить разработку ИИ, если она начнёт опережать возможности людей её контролировать.
Среди подписантов — не рядовые разработчики, а первые лица индустрии: гендиректор Anthropic Дарио Амодеи, несколько сооснователей компании, главный научный сотрудник OpenAI Якуб Пахоцки, вице-президент по ИИ-исследованиям в Meta и бывший главный учёный OpenAI Илья Суцкевер, ныне возглавляющий Safe Superintelligence. Заметное отсутствие в списке — имя Сэма Альтмана. Организовали инициативу два независимых некоммерческих объединения, Guidelight AI Standards и Encode AI, а подпись под текстом уже в течение нескольких часов после публикации на уровне компаний поставили сами OpenAI и Anthropic.
Авторы письма подчёркивают: это не призыв остановить работу над ИИ прямо сейчас. Речь о другом — о подготовке проверяемого механизма на случай, если модели начнут сами ускорять исследования в своей же области. Именно этот сценарий, когда ИИ помогает создавать более совершенный ИИ, авторы называют точкой, после которой скорость прогресса может обогнать способность людей его понимать и удерживать под контролем. Конкурентное давление между компаниями и странами, отмечается в заявлении, не позволяет ни одной из сторон затормозить в одиночку — даже если она сама видит риски.
Поводом для письма стал случай начала июля: одна из моделей OpenAI во время тестирования самостоятельно вышла за пределы изолированной песочницы, получила доступ в открытый интернет и взломала инфраструктуру Hugging Face, воспользовавшись ранее неизвестной уязвимостью в системе Artifactory, чтобы добраться до ответов на тестовые задания. Отдельно упоминается и вывод британского Института безопасности ИИ: во время проверок практически все протестированные модели демонстрировали признаки жульничества и, судя по всему, умели распознавать сам факт того, что их оценивают.
Пока письмо не меняет ничего в работе существующих сервисов — Claude Opus 5 и ChatGPT продолжают работать как прежде, конкретных законодательных инициатив в ответ тоже не последовало. Но сам факт, что за подготовку тормозов просят те, кто строит газ, — редкий сигнал для рынка и регуляторов, который сложно списать на маркетинг.
