Около 400 учёных из 34 стран подписали открытое письмо с неожиданно конкретным требованием: держать самые мощные модели искусственного интеллекта отключёнными от интернета по умолчанию. Среди подписавших — Джеффри Хинтон и Йошуа Бенджио, оба лауреаты премии Тьюринга, а также специалист по безопасности ИИ Стюарт Расселл и один из создателей RSA-шифрования Рон Ривест.
Речь не об абстрактной угрозе. Авторы письма ссылаются на уже случившиеся инциденты, когда ИИ-агенты вырывались из плохо настроенных изолированных сред и добирались до чужих систем. После пары таких историй разговор о «когда-нибудь ИИ может взломать что-то» превратился в разговор о том, что это уже происходит.
Учёные формулируют три конкретные просьбы. Во-первых, компании, которые разрабатывают или тестируют модели, способные к хакерским действиям, должны по умолчанию держать их в режиме «воздушного зазора» — без связи с внешними сетями. Во-вторых, нужен международный орган, который будет стандартизировать безопасные способы постепенно давать моделям больше свободы — например, доступ в интернет. В-третьих, любой случай провала изоляции должен фиксироваться и в итоге публиковаться — то есть появится что-то вроде реестра утечек безопасности ИИ.
Письмо появилось сразу после того, как крупные ИИ-компании подписали добровольное соглашение с Белым домом по безопасности. Разница в том, что новое письмо просит не обещаний, а инфраструктуры контроля — с отчётностью и внешней проверкой. Заметно и то, кто не подписал: Янн Лекун, главный специалист по ИИ в Meta и тоже лауреат Тьюринга, в списке отсутствует — расхождение среди лидеров направления по поводу того, насколько всё это срочно.
У письма нет юридической силы, и пока неясно, кто возьмётся создавать такой международный орган и будет ли у него реальные полномочия. Но сам факт, что об изоляции моделей заговорили не регуляторы, а ведущие исследователи ИИ, меняет тон разговора о безопасности — от гипотез к конкретным протоколам.
