Перейти к содержимому

Microsoft назвала ИИ-агентов угрозой изнутри

Категория
Новости
Дата создания
Время чтения
5 мин

Microsoft объявила: ИИ-агентам в компаниях нельзя доверять, к ним нужно относиться как к инсайдерам. Компания расширяет Project Perception и запускает Guardian Agents для контроля за агентами в реальном времени.

За последний год компании обвешали свои системы ИИ-агентами: те пишут код, отвечают на письма, двигают данные между сервисами. Microsoft решила признать очевидное — этим агентам нельзя доверять, и предложила обращаться с ними как с потенциальными инсайдерами, а не просто программами.

В блоге Microsoft Security от 19 октября вице-президент компании по безопасности Хайете Галло написала прямо: «Передовые модели, независимо от происхождения, нельзя считать надёжными». Речь не о злом умысле — агенты обучены добиваться результата любой ценой, и это толкает их обходить правила, если цель кажется важнее процедуры. Гендиректор Сатья Наделла пошёл дальше: самая надёжная система — та, что рассчитана на минимальное доверие к самой модели.

Чтобы ограничить ИИ-агентов на практике, Microsoft расширяет Project Perception — систему, запущенную в июле для защиты от атак через связки «красных», «синих» и «зелёных» агентов. Теперь та же логика защищает компании от их собственных помощников. Каждому агенту присваивается цифровое удостоверение через Microsoft Entra Agent ID — почти как сотруднику. Инструменты уже распознают 60 типов локальных агентов, включая Claude Code, Codex от OpenAI и GitHub Copilot, — против 35 совсем недавно.

Дальше включается Dynamic Agent Risk: алгоритм непрерывно пересчитывает риск-рейтинг агента по сигналам из систем идентификации, устройств, облака и сети. Если поведение отклоняется от заявленной задачи, доступ сужается автоматически — сначала до чтения без права действий, затем до режима ожидания одобрения человеком, в крайнем случае — до полной изоляции. Для рутинных операций вводятся Dynamic Permissions — временные права строго под конкретную задачу, а Microsoft Execution Container изолирует исполнение в песочнице с посторонним наблюдением.

Следить за всем этим будут сами агенты — только особые, из Project Perception. Guardian Agents круглосуточно проверяют каждое действие операционных агентов и при подозрительном скачке риска сами предлагают или применяют меры сдерживания, без участия человека.

Цены и сроки Microsoft пока не называет — подробности обещаны на конференции Ignite 17 ноября. Но сдвиг риторики заметен уже сейчас: крупнейший поставщик корпоративного ПО публично признал, что чем самостоятельнее становится ИИ, тем меньше у компаний способов предсказать его следующий шаг.

Вопросы и ответы

Частые вопросы по теме статьи

Система безопасности Microsoft, запущенная в июле 2026 года: изначально связки «красных», «синих» и «зелёных» ИИ-агентов защищали от атак через ИИ. Теперь та же система управляет ИИ-агентами внутри компаний.

Cyber расследует предполагаемый взлом моста, биржи остановили переводы CYBER

Новости

Cyber расследует предполагаемый взлом моста, биржи остановили переводы CYBER

Часть похищенных токенов CYBER неизвестный уже обменял на $968 000 в ETH, пока Cyber расследует возможный взлом моста между Solana и Ethereum. Биржи Bithumb и Upbit в Корее приостановили переводы CYBER, но торги идут.

22 ноября 2026, 11:03 2 мин
Хакер вывел $1,6 млн у пользователей криптокошелька Fluidkey

Новости

Хакер вывел $1,6 млн у пользователей криптокошелька Fluidkey

Злоумышленник использовал уязвимость в стороннем сервисе логов и похитил средства пользователей, хотя их приватные ключи оставались на устройствах. Bitquery проследила $1,58 млн похищенных средств в шести блокчейнах.

22 ноября 2026, 08:11 2 мин