Перейти до вмісту

Microsoft прописала кодекс поведінки для власного ШІ

Категорія
Новини
Дата створення
Час читання
4 хв

Microsoft опублікувала чернетку кодексу поведінки для моделей MAI: заборона на обман, кібератаки й опір вимкненню. Документ обговорюватимуть шість тижнів, фінальна версія запрацює з 2027 року.

Поки в Anthropic і OpenAI сперечаються, чи варто взагалі гальмувати перегони за потужнішим ШІ, Microsoft пішла іншим шляхом — прописала самому ШІ, чого йому робити не можна. 14 вересня компанія опублікувала чернетку «кодексу поведінки» для власних моделей MAI і оголосила шість тижнів на публічне обговорення документа.

Формулювання жорсткі. Моделі не повинні обманювати людей, приховувати хід власних міркувань, чинити опір вимкненню чи корекції, а тим паче змовлятися між собою, щоб обійти контроль людини. Окремим списком ідуть абсолютні заборони: кібератаки, допомога у створенні ядерної зброї, дипфейки, зброя та небезпечні речовини. Ще одна вимога звучить майже по-людськи: модель зобов'язана пояснювати себе зрозумілою мовою, а не видавати відповіді у форматі, незрозумілому для людини.

Документ готували п'ять місяців — із юристами, філософами й лінгвістами, розповідає очільник Microsoft AI Мустафа Сулейман, який давно просуває ідею «гуманістичного надрозуму», підпорядкованого людині. Публікація з'явилася не у вакуумі: того ж тижня дослідник Anthropic звільнився, попередивши про ризик втрати контролю над ШІ, а гендиректор компанії публічно закликав індустрію пригальмувати. Сем Альтман з OpenAI говорив про схожі побоювання. Гендиректор Microsoft Сатя Наделла публічно підтримав ідею «свідомого уповільнення» темпів розробки.

Після шести тижнів обговорення Microsoft обіцяє випустити фінальну версію кодексу, яка визначатиме розробку моделей MAI починаючи з 2027 року.

Поки це не закон і не технічне обмеження в коді моделей — радше декларація принципів, яку компанія зобов'язується дотримуватися добровільно. Але якщо конкуренти справді готують схожий галузевий стандарт безпеки, кодекс Microsoft ризикує стати першим публічним прикладом того, як велика компанія формулює правила для власного ШІ на папері — раніше, ніж це зроблять регулятори.

Запитання та відповіді

Часті питання на тему статті

Це чернетка правил, яка визначає, що моделі Microsoft AI (MAI) можуть і не можуть робити — від заборони на обман і кібератаки до вимоги ніколи не чинити опір контролю людини.

Сенат США ухвалив законопроєкт про заборону ставок на війну та смерть

Новини

Сенат США ухвалив законопроєкт про заборону ставок на війну та смерть

Законопроєкт забороняє біржам прогнозів у США контракти на війну, замахи на вбивство та смерть людей. Шість гаманців на Polymarket заробили близько $1,2 млн, передбачивши терміни удару США по Ірану.

20 листопада 2026 р., 18:38 2 хв
Лагард попередила про ризик роздроблення ринку токенізації в ЄС

Новини

Лагард попередила про ризик роздроблення ринку токенізації в ЄС

Лагард заявила, що без спільних правил ринок токенізованих активів у Європі може розколотися на несумісні платформи. Глобальний ринок таких активів зріс за рік у п'ять разів, до 23 млрд євро.

20 листопада 2026 р., 16:56 2 хв
MoonPay подала заявку до OCC на чартер трастового банку для стейблкоїнів

Новини

MoonPay подала заявку до OCC на чартер трастового банку для стейблкоїнів

Платіжний сервіс MoonPay хоче отримати право випускати стейблкоїни та зберігати цифрові активи клієнтів. Новий статус компанії потрібен до набрання чинності законом GENIUS Act 18 січня 2027 року.

20 листопада 2026 р., 13:56 2 хв