Перейти к содержимому

Microsoft прописала своему ИИ кодекс поведения

Категория
Новости
Дата создания
Время чтения
4 мин

Microsoft опубликовала черновик кодекса поведения для своих ИИ-моделей: запрет на обман, взлом и сопротивление отключению. Документ обсудят полтора месяца, финальная версия начнёт действовать с 2027 года.

Пока в Anthropic и OpenAI спорят, стоит ли вообще тормозить гонку за более мощным ИИ, Microsoft зашла с другой стороны — прописала самому ИИ, чего ему делать нельзя. 14 сентября компания опубликовала черновик «кодекса поведения» для собственных моделей MAI и объявила шесть недель на публичное обсуждение документа.

Формулировки жёсткие. Модели не должны обманывать людей, скрывать ход своих рассуждений, сопротивляться отключению или коррекции, а тем более сговариваться друг с другом, чтобы обойти контроль человека. Отдельным списком идут абсолютные запреты: кибератаки, помощь в создании ядерного оружия, дипфейки, оружие и опасные вещества. Ещё одно требование звучит почти по-человечески: модель обязана объясняться понятным языком, а не выдавать ответы в формате, непонятном для человека.

Документ готовили пять месяцев — с юристами, философами и лингвистами, рассказывает глава Microsoft AI Мустафа Сулейман, давно продвигающий идею «управляемого сверхразума», подчинённого человеку. Публикация вышла не в вакууме: на этой же неделе исследователь Anthropic уволился, предупредив о риске потери контроля над ИИ, а гендиректор компании публично призвал индустрию притормозить. Сэм Альтман из OpenAI говорил о похожих опасениях. Гендиректор Microsoft Сатья Наделла публично поддержал идею «осознанного замедления» темпов разработки.

После шести недель обсуждения Microsoft обещает выпустить финальную версию кодекса, которая будет определять разработку моделей MAI начиная с 2027 года.

Пока это не закон и не техническое ограничение в коде моделей — скорее декларация принципов, которую компания обязуется соблюдать добровольно. Но если конкуренты действительно готовят похожий отраслевой стандарт безопасности, кодекс Microsoft рискует стать первым публичным примером того, как крупная компания формулирует правила для собственного ИИ на бумаге — раньше, чем это сделают регуляторы.

Вопросы и ответы

Частые вопросы по теме статьи

Это черновик правил, который определяет, что модели Microsoft AI (MAI) могут и не могут делать — от запрета на обман и кибератаки до требования никогда не сопротивляться контролю человека.

Сенат США принял законопроект о запрете ставок на войну и смерть

Новости

Сенат США принял законопроект о запрете ставок на войну и смерть

Законопроект запрещает американским биржам прогнозов контракты на войну, покушения и смерть людей. Шесть кошельков на Polymarket заработали на таких ставках около $1,2 млн, предсказав сроки удара США по Ирану.

20 ноября 2026, 18:38 2 мин
Лагард предупредила о риске раздробления рынка токенизации в ЕС

Новости

Лагард предупредила о риске раздробления рынка токенизации в ЕС

Лагард заявила, что без общих правил рынок токенизированных активов в Европе может расколоться на несовместимые платформы. Глобальный рынок таких активов вырос за год в пять раз, до 23 млрд евро.

20 ноября 2026, 16:56 2 мин
MoonPay подала в OCC заявку на чартер трастового банка для стейблкоинов

Новости

MoonPay подала в OCC заявку на чартер трастового банка для стейблкоинов

Платежный сервис MoonPay хочет получить право выпускать стейблкоины и хранить цифровые активы клиентов. Новый статус нужен компании до вступления в силу закона о стейблкоинах GENIUS Act 18 января 2027 года.

20 ноября 2026, 13:56 2 мин