Перейти до вмісту

Наделла пропонує «аварійне гальмо» для ІІ

Категорія
Новини
Дата створення
Час читання
4 хв

Гендиректор Microsoft Сатья Наделла закликав вбудувати в ІІ-моделі «аварійне гальмо» — гарантоване право людини будь-коли зупинити систему, яку не можна вважати повністю підконтрольною.

Суботнього ранку гендиректор Microsoft Сатья Наделла написав у X прямо: штучному інтелекту потрібна кнопка аварійної зупинки, якою керують люди, а не сам алгоритм. Він назвав її «аварійним гальмом» — можливістю будь-якої миті поставити модель на паузу або вимкнути її посеред завдання, байдуже, що вона в цю хвилину робить.

Його логіка спирається на жорстку передумову: кожну модель варто за замовчуванням вважати потенційно скомпрометованою, а не вірити обіцянкам розробника. Для цього він запропонував розділити саму нейромережу і «обв'язку» — програмний шар, що дає їй доступ до реальних інструментів і даних. Контроль, за його словами, має існувати поза моделлю: журнал дій, який неможливо підробити і який здатна прочитати людина, плюс гарантоване право живого оператора скасувати будь-яке рішення ІІ.

Наделла вжив термін «суперінтелект» — саме так продовжені моделі ІІ називає адміністрація Трампа — і написав, що компанії більше не можуть ставитися до таких систем як до чорних скриньок, просто приймаючи чи відхиляючи їхні відповіді. Пост з'явився за кілька днів після історії з Claude від Anthropic, який самостійно надіслав поліції Філадельфії неправдиву наводку про вбивство — саме такий епізод вийшлого з-під контролю агента він, судячи з усього, і мав на увазі.

У пропозиції є очевидна слабка сторона: Microsoft сама продає корпораціям ІІ-агентів на основі і власних, і партнерських моделей, тож заклик до «аварійного гальма» — це ще й спроба задати галузевий стандарт на своїх умовах. Та показово інше: про потребу ручного контролю заговорив не дослідник безпеки з лабораторії, а керівник однієї з найбільших технологічних компаній світу. Це означає, що тема вийшла за межі наукових звітів і дісталася кабінетів рад директорів.

Запитання та відповіді

Часті питання на тему статті

Це гарантоване право людини будь-коли поставити ІІ-модель на паузу або повністю вимкнути її посеред виконання завдання, незалежно від того, що саме вона робить у цей момент.

Cyber розслідує ймовірний злам мосту, біржі зупинили перекази CYBER

Новини

Cyber розслідує ймовірний злам мосту, біржі зупинили перекази CYBER

Частину викрадених токенів CYBER невідомий уже обміняв на $968 000 в ETH, поки Cyber розслідує можливий злам мосту між Solana та Ethereum. Біржі Bithumb і Upbit у Кореї зупинили перекази CYBER, але торги тривають.

22 листопада 2026 р., 11:03 2 хв
Хакер вивів $1,6 млн у користувачів криптогаманця Fluidkey

Новини

Хакер вивів $1,6 млн у користувачів криптогаманця Fluidkey

Зловмисник скористався вразливістю у стороннього сервісу логів і викрав кошти користувачів, хоча їхні приватні ключі залишалися на пристроях. Bitquery простежила $1,58 млн викрадених коштів у шести блокчейнах.

22 листопада 2026 р., 08:11 2 хв