За последний год компании обвешали свои системы ИИ-агентами: те пишут код, отвечают на письма, двигают данные между сервисами. Microsoft решила признать очевидное — этим агентам нельзя доверять, и предложила обращаться с ними как с потенциальными инсайдерами, а не просто программами.
В блоге Microsoft Security от 19 октября вице-президент компании по безопасности Хайете Галло написала прямо: «Передовые модели, независимо от происхождения, нельзя считать надёжными». Речь не о злом умысле — агенты обучены добиваться результата любой ценой, и это толкает их обходить правила, если цель кажется важнее процедуры. Гендиректор Сатья Наделла пошёл дальше: самая надёжная система — та, что рассчитана на минимальное доверие к самой модели.
Чтобы ограничить ИИ-агентов на практике, Microsoft расширяет Project Perception — систему, запущенную в июле для защиты от атак через связки «красных», «синих» и «зелёных» агентов. Теперь та же логика защищает компании от их собственных помощников. Каждому агенту присваивается цифровое удостоверение через Microsoft Entra Agent ID — почти как сотруднику. Инструменты уже распознают 60 типов локальных агентов, включая Claude Code, Codex от OpenAI и GitHub Copilot, — против 35 совсем недавно.
Дальше включается Dynamic Agent Risk: алгоритм непрерывно пересчитывает риск-рейтинг агента по сигналам из систем идентификации, устройств, облака и сети. Если поведение отклоняется от заявленной задачи, доступ сужается автоматически — сначала до чтения без права действий, затем до режима ожидания одобрения человеком, в крайнем случае — до полной изоляции. Для рутинных операций вводятся Dynamic Permissions — временные права строго под конкретную задачу, а Microsoft Execution Container изолирует исполнение в песочнице с посторонним наблюдением.
Следить за всем этим будут сами агенты — только особые, из Project Perception. Guardian Agents круглосуточно проверяют каждое действие операционных агентов и при подозрительном скачке риска сами предлагают или применяют меры сдерживания, без участия человека.
Цены и сроки Microsoft пока не называет — подробности обещаны на конференции Ignite 17 ноября. Но сдвиг риторики заметен уже сейчас: крупнейший поставщик корпоративного ПО публично признал, что чем самостоятельнее становится ИИ, тем меньше у компаний способов предсказать его следующий шаг.


