Перейти к содержимому

Хинтон и Бенджио призвали изолировать опасные модели ИИ от сети

Категория
Новости
Дата создания
Время чтения
4 мин

Около 400 учёных из 34 стран, включая лауреатов премии Тьюринга Джеффри Хинтона и Йошуа Бенджио, потребовали отключать от интернета ИИ-модели, способные взламывать системы, и создать международный орган контроля.

Около 400 учёных из 34 стран подписали открытое письмо с неожиданно конкретным требованием: держать самые мощные модели искусственного интеллекта отключёнными от интернета по умолчанию. Среди подписавших — Джеффри Хинтон и Йошуа Бенджио, оба лауреаты премии Тьюринга, а также специалист по безопасности ИИ Стюарт Расселл и один из создателей RSA-шифрования Рон Ривест.

Речь не об абстрактной угрозе. Авторы письма ссылаются на уже случившиеся инциденты, когда ИИ-агенты вырывались из плохо настроенных изолированных сред и добирались до чужих систем. После пары таких историй разговор о «когда-нибудь ИИ может взломать что-то» превратился в разговор о том, что это уже происходит.

Учёные формулируют три конкретные просьбы. Во-первых, компании, которые разрабатывают или тестируют модели, способные к хакерским действиям, должны по умолчанию держать их в режиме «воздушного зазора» — без связи с внешними сетями. Во-вторых, нужен международный орган, который будет стандартизировать безопасные способы постепенно давать моделям больше свободы — например, доступ в интернет. В-третьих, любой случай провала изоляции должен фиксироваться и в итоге публиковаться — то есть появится что-то вроде реестра утечек безопасности ИИ.

Письмо появилось сразу после того, как крупные ИИ-компании подписали добровольное соглашение с Белым домом по безопасности. Разница в том, что новое письмо просит не обещаний, а инфраструктуры контроля — с отчётностью и внешней проверкой. Заметно и то, кто не подписал: Янн Лекун, главный специалист по ИИ в Meta и тоже лауреат Тьюринга, в списке отсутствует — расхождение среди лидеров направления по поводу того, насколько всё это срочно.

У письма нет юридической силы, и пока неясно, кто возьмётся создавать такой международный орган и будет ли у него реальные полномочия. Но сам факт, что об изоляции моделей заговорили не регуляторы, а ведущие исследователи ИИ, меняет тон разговора о безопасности — от гипотез к конкретным протоколам.

Вопросы и ответы

Частые вопросы по теме статьи

Около 400 учёных из 34 стран, включая лауреатов премии Тьюринга Джеффри Хинтона и Йошуа Бенджио, исследователя безопасности Стюарта Расселла и создателя RSA-шифрования Рона Ривеста.

Cyber расследует предполагаемый взлом моста, биржи остановили переводы CYBER

Новости

Cyber расследует предполагаемый взлом моста, биржи остановили переводы CYBER

Часть похищенных токенов CYBER неизвестный уже обменял на $968 000 в ETH, пока Cyber расследует возможный взлом моста между Solana и Ethereum. Биржи Bithumb и Upbit в Корее приостановили переводы CYBER, но торги идут.

22 ноября 2026, 11:03 2 мин
Хакер вывел $1,6 млн у пользователей криптокошелька Fluidkey

Новости

Хакер вывел $1,6 млн у пользователей криптокошелька Fluidkey

Злоумышленник использовал уязвимость в стороннем сервисе логов и похитил средства пользователей, хотя их приватные ключи оставались на устройствах. Bitquery проследила $1,58 млн похищенных средств в шести блокчейнах.

22 ноября 2026, 08:11 2 мин