Перейти до вмісту

Хінтон і Бенджіо закликали відʼєднати небезпечний ШІ від мережі

Категорія
Новини
Дата створення
Час читання
4 хв

Близько 400 науковців із 34 країн, серед яких лауреати премії Тюрінга Джефрі Хінтон і Йошуа Бенджіо, вимагають за умовчанням відключати від інтернету ШІ, здатний до хакерських атак, і створити міжнародний орган контролю.

Близько 400 науковців із 34 країн підписали відкритий лист із доволі конкретною вимогою: тримати найпотужніші моделі штучного інтелекту відключеними від інтернету за умовчанням. Серед підписантів — Джефрі Хінтон і Йошуа Бенджіо, лауреати премії Тюрінга, дослідник безпеки ШІ Стюарт Рассел і співавтор шифрування RSA Рон Рівест.

Це не гіпотетична загроза. Автори листа посилаються на реальні випадки, коли ШІ-агенти вибиралися з погано налаштованих ізольованих середовищ і дісталися до чужих систем. Після кількох таких історій розмова про те, що «ШІ колись може щось зламати», перетворилася на розмову про те, що це вже відбувається.

Науковці формулюють три конкретні вимоги. По-перше, компанії, які розробляють або тестують моделі, здатні до хакерських дій, повинні за умовчанням тримати їх у режимі «повітряного проміжку» — без звʼязку із зовнішніми мережами. По-друге, потрібен міжнародний орган, який стандартизує безпечні способи поступово надавати моделям більше свободи, наприклад доступ в інтернет. По-третє, кожен випадок провалу ізоляції має фіксуватися і зрештою публікуватися — тобто з'явиться щось на кшталт реєстру інцидентів безпеки ШІ.

Лист зʼявився одразу після того, як великі ІТ-компанії підписали добровільну угоду з Білим домом щодо безпеки ШІ. Різниця в тому, що новий лист просить не обіцянок, а інфраструктури контролю — зі звітністю та зовнішньою перевіркою. Помітно й те, хто не підписав: Янн Лекун, головний спеціаліст з ШІ в Meta і також лауреат Тюрінга, відсутній у списку — розбіжність серед лідерів галузі щодо того, наскільки все це терміново.

Лист не має юридичної сили, і досі незрозуміло, хто візьметься створювати такий міжнародний орган і чи матиме він реальні повноваження. Але сам факт, що про ізоляцію моделей заговорили не регулятори, а провідні дослідники ШІ, змінює тон розмови про безпеку — від гіпотез до конкретних протоколів.

Запитання та відповіді

Часті питання на тему статті

Близько 400 науковців із 34 країн, зокрема лауреати премії Тюрінга Джефрі Хінтон і Йошуа Бенджіо, дослідник безпеки Стюарт Рассел і співавтор шифрування RSA Рон Рівест.

Cyber розслідує ймовірний злам мосту, біржі зупинили перекази CYBER

Новини

Cyber розслідує ймовірний злам мосту, біржі зупинили перекази CYBER

Частину викрадених токенів CYBER невідомий уже обміняв на $968 000 в ETH, поки Cyber розслідує можливий злам мосту між Solana та Ethereum. Біржі Bithumb і Upbit у Кореї зупинили перекази CYBER, але торги тривають.

22 листопада 2026 р., 11:03 2 хв
Хакер вивів $1,6 млн у користувачів криптогаманця Fluidkey

Новини

Хакер вивів $1,6 млн у користувачів криптогаманця Fluidkey

Зловмисник скористався вразливістю у стороннього сервісу логів і викрав кошти користувачів, хоча їхні приватні ключі залишалися на пристроях. Bitquery простежила $1,58 млн викрадених коштів у шести блокчейнах.

22 листопада 2026 р., 08:11 2 хв