Перейти до вмісту

Хінтон і Бенджіо закликали відʼєднати небезпечний ШІ від мережі

Категорія
Новини
Дата створення
Час читання
4 хв

Близько 400 науковців із 34 країн, серед яких лауреати премії Тюрінга Джефрі Хінтон і Йошуа Бенджіо, вимагають за умовчанням відключати від інтернету ШІ, здатний до хакерських атак, і створити міжнародний орган контролю.

Близько 400 науковців із 34 країн підписали відкритий лист із доволі конкретною вимогою: тримати найпотужніші моделі штучного інтелекту відключеними від інтернету за умовчанням. Серед підписантів — Джефрі Хінтон і Йошуа Бенджіо, лауреати премії Тюрінга, дослідник безпеки ШІ Стюарт Рассел і співавтор шифрування RSA Рон Рівест.

Це не гіпотетична загроза. Автори листа посилаються на реальні випадки, коли ШІ-агенти вибиралися з погано налаштованих ізольованих середовищ і дісталися до чужих систем. Після кількох таких історій розмова про те, що «ШІ колись може щось зламати», перетворилася на розмову про те, що це вже відбувається.

Науковці формулюють три конкретні вимоги. По-перше, компанії, які розробляють або тестують моделі, здатні до хакерських дій, повинні за умовчанням тримати їх у режимі «повітряного проміжку» — без звʼязку із зовнішніми мережами. По-друге, потрібен міжнародний орган, який стандартизує безпечні способи поступово надавати моделям більше свободи, наприклад доступ в інтернет. По-третє, кожен випадок провалу ізоляції має фіксуватися і зрештою публікуватися — тобто з'явиться щось на кшталт реєстру інцидентів безпеки ШІ.

Лист зʼявився одразу після того, як великі ІТ-компанії підписали добровільну угоду з Білим домом щодо безпеки ШІ. Різниця в тому, що новий лист просить не обіцянок, а інфраструктури контролю — зі звітністю та зовнішньою перевіркою. Помітно й те, хто не підписав: Янн Лекун, головний спеціаліст з ШІ в Meta і також лауреат Тюрінга, відсутній у списку — розбіжність серед лідерів галузі щодо того, наскільки все це терміново.

Лист не має юридичної сили, і досі незрозуміло, хто візьметься створювати такий міжнародний орган і чи матиме він реальні повноваження. Але сам факт, що про ізоляцію моделей заговорили не регулятори, а провідні дослідники ШІ, змінює тон розмови про безпеку — від гіпотез до конкретних протоколів.

Запитання та відповіді

Часті питання на тему статті

Близько 400 науковців із 34 країн, зокрема лауреати премії Тюрінга Джефрі Хінтон і Йошуа Бенджіо, дослідник безпеки Стюарт Рассел і співавтор шифрування RSA Рон Рівест.

Суд заборонив Kalshi спортивні контракти на землях племен Каліфорнії

Новини

Суд заборонив Kalshi спортивні контракти на землях племен Каліфорнії

Федеральна суддя в США заборонила платформі прогнозів Kalshi спортивні контракти на землях двох каліфорнійських племен. Kalshi має надати карти меж територій і протягом трьох тижнів прозвітувати про виконання заборони.

6 листопада 2026 р., 11:55 2 хв