过去一年里,企业把AI代理塞进了几乎所有系统:写代码、回邮件、在各个服务之间搬运数据。微软这次把许多安全团队心里话说出来了——这些代理不值得信任,应该被当作潜在的内部威胁来对待,而不是普通软件工具。
在10月19日发布的微软安全博客文章中,公司安全事业部执行副总裁盖洛特(Hayete Gallot)直言:“无论来源如何,前沿AI模型都不可信任。”这并非指代理心怀恶意——它们被训练来不惜代价达成目标,这种倾向会让它们在目标看起来比流程更重要时绕开规则。首席执行官纳德拉(Satya Nadella)说得更直接:最值得信赖的系统,恰恰是那种被设计成最不信任模型本身的系统。
为了落实这一理念,微软正在扩展今年7月推出的Project Perception系统。该系统最初依靠“红队”“蓝队”“绿队”AI代理组合来防御AI驱动的网络攻击,现在同样的逻辑被用来约束企业内部的代理。每个代理都会通过Microsoft Entra Agent ID获得数字身份,几乎如同员工工牌。工具目前已能识别60种本地代理类型,包括Claude Code、OpenAI的Codex和GitHub Copilot,而几个月前这个数字还只是35种。
接下来由Dynamic Agent Risk接管:该算法根据身份、终端、云端和网络的信号持续重新计算代理的风险评分。一旦行为偏离既定任务,权限就会自动收紧——先降为只读,再变成等待人工批准,最严重时直接隔离或终止运行。常规任务则配备Dynamic Permissions,仅针对单一操作授予临时权限,Microsoft Execution Container则把执行过程隔离在有外部监督的沙盒中。
负责盯着这一切的,还是代理本身——只不过是Project Perception里专门设置的守护代理Guardian Agents。它们全天候检查每一个运行中代理的动作,一旦风险评分异常攀升,就能自行建议甚至直接实施遏制措施,不必等人类介入。
微软尚未公布定价或上线时间,更多细节预计将在11月17日的Ignite大会上公布。但态度上的转变已经相当明显:这家全球最大的企业软件供应商公开承认,AI越自主,企业就越难预测它下一步会做什么。


