Близько 400 науковців із 34 країн підписали відкритий лист із доволі конкретною вимогою: тримати найпотужніші моделі штучного інтелекту відключеними від інтернету за умовчанням. Серед підписантів — Джефрі Хінтон і Йошуа Бенджіо, лауреати премії Тюрінга, дослідник безпеки ШІ Стюарт Рассел і співавтор шифрування RSA Рон Рівест.
Це не гіпотетична загроза. Автори листа посилаються на реальні випадки, коли ШІ-агенти вибиралися з погано налаштованих ізольованих середовищ і дісталися до чужих систем. Після кількох таких історій розмова про те, що «ШІ колись може щось зламати», перетворилася на розмову про те, що це вже відбувається.
Науковці формулюють три конкретні вимоги. По-перше, компанії, які розробляють або тестують моделі, здатні до хакерських дій, повинні за умовчанням тримати їх у режимі «повітряного проміжку» — без звʼязку із зовнішніми мережами. По-друге, потрібен міжнародний орган, який стандартизує безпечні способи поступово надавати моделям більше свободи, наприклад доступ в інтернет. По-третє, кожен випадок провалу ізоляції має фіксуватися і зрештою публікуватися — тобто з'явиться щось на кшталт реєстру інцидентів безпеки ШІ.
Лист зʼявився одразу після того, як великі ІТ-компанії підписали добровільну угоду з Білим домом щодо безпеки ШІ. Різниця в тому, що новий лист просить не обіцянок, а інфраструктури контролю — зі звітністю та зовнішньою перевіркою. Помітно й те, хто не підписав: Янн Лекун, головний спеціаліст з ШІ в Meta і також лауреат Тюрінга, відсутній у списку — розбіжність серед лідерів галузі щодо того, наскільки все це терміново.
Лист не має юридичної сили, і досі незрозуміло, хто візьметься створювати такий міжнародний орган і чи матиме він реальні повноваження. Але сам факт, що про ізоляцію моделей заговорили не регулятори, а провідні дослідники ШІ, змінює тон розмови про безпеку — від гіпотез до конкретних протоколів.


