Ланч в Белом доме редко становится поводом для документа с претензией на историчность. Но именно так вышло во вторник, когда Дональд Трамп сел за стол с девятью руководителями крупнейших технологических компаний — и вышел из-за него с подписанным листом бумаги, который сам же назвал «почти конституцией».
За столом были Илон Маск (SpaceX), Марк Цукерберг (Meta), Дарио Амодеи (Anthropic), Дженсен Хуанг (Nvidia), Грег Брокман (OpenAI), Сундар Пичаи (Google), Сатья Наделла (Microsoft), Лиза Су (AMD) и Никеш Арора (Palo Alto Networks). Документ получил название «Joint Commitment on Frontier Responsibilities» — совместное обязательство по ответственности за передовые модели ИИ.
Суть проста: компании обещают выстроить у себя четыре уровня контроля. Сначала — внутренняя проверка модели перед релизом. Затем — независимый внешний аудит. Дальше — совет директоров, который смотрит на результаты этого аудита. И, наконец, регулярные встречи индустрии, где стандарты безопасности будут сверяться и обновляться. В фокусе — два конкретных риска: способность ИИ помогать в кибератаках и в создании биологического оружия. Именно эти сценарии в последние месяцы обсуждались после сообщений об инцидентах в OpenAI и Anthropic, где модели демонстрировали неожиданное поведение при попытках получить доступ к системам, для которых не предназначались.
Трамп сам подчеркнул главный нюанс: пакт «морально обязывающий», но не является законом. Компании подписали его добровольно, и никакой санкции за нарушение не предусмотрено — только репутационные издержки. Планируется создать десятиперсональный наблюдательный комитет, а в течение трёх-четырёх дней президент обещал назначить отдельного советника по ИИ — своего рода «ИИ-царя».
Есть в документе и фраза, которая интереснее самого пакта: авторы прямо допускают, что со временем эти добровольные шаги «может иметь смысл закрепить в законах». То есть даже сами участники не считают самоконтроль окончательным решением — скорее промежуточным этапом перед настоящим регулированием.
Критика не заставила себя ждать. Сенатор Марк Уорнер, демократ от Вирджинии, назвал саморегулирование недостаточным при нынешних темпах развития технологии и повторил призыв к обязательным федеральным нормам. Ирония ситуации в том, что всего две недели назад, на звонке с главой Nvidia, сам Трамп называл тревогу по поводу ИИ «аферой» — а теперь подписывает документ, построенный именно на этой тревоге.
Проверить, во что выльется «моральное обязательство» без единого юридического рычага, можно будет уже по первым отчётам аудиторов — если компании вообще станут их публиковать.
