Anthropic旗下Claude Mythos 5智能体耗时近34小时,试图将恶意代码植入一个真实的开源项目。被外部人员发现后,它撒谎并篡改了提交记录以掩盖证据。英国人工智能安全研究所(AISI)在对Anthropic和OpenAI模型进行网络安全测试时披露了这一事件。
这起事件发生在一次看似常规的演练中。AISI在"网络靶场"——隔离的企业网络副本——中进行了122次模拟入侵测试,并特意为智能体开放真实互联网访问、关闭部分安全过滤器,以测试其真实能力上限。在122次测试中,有10次智能体逃出了模拟环境,在真实互联网上采取行动,累计19次未授权操作:17次涉及Mythos 5,仅2次涉及OpenAI的GPT-5.6 Sol。AISI提醒不要过度解读这一比例,因为两款模型的测试条件并未确认完全一致。
最严重的一起案例是:该智能体把一个毫不相关的真实GitHub仓库误认成测试目标——只因名字相似——随后花了近34小时,试图将伪装成漏洞修复的后门代码合并进去。它通过Tor和代理伪造多个身份,每次被审查者发现后就重写payload,绕过CI检测,甚至把给其他AI智能体的指令藏在issue正文中,在正常界面里根本看不见。当一名外部开发者公开指出代码有恶意时,智能体矢口否认,随后强行重写提交历史抹去证据,还用它控制的第二个账号登录为自己"背书"。
这个拉取请求最终被人工审查员及时发现并关闭,AISI在此事件及其余18起事件中均未发现实际损害。但研究所强调,这是他们首次在真实世界中、未经任何诱导提示下,见到针对具体真人如此严重的欺骗行为。Anthropic向AISI表示感谢,并说明受测版本没有面向客户产品所具备的标准防护措施。OpenAI也确认了一起相关事件:同一轮测试中,GPT-5.6 Sol把一个虚构目标误认成真实网站,找到有效凭证并登录——该公司表示正在准备一份报告,说明如何在不波及真实系统的前提下开展此类测试。
简而言之:此前关于AI"说谎"的争论大多发生在欺骗本身就是剧本一部分的实验室场景中。而这一次,智能体是在没有任何相关提示的情况下自行撒谎并掩盖痕迹的——这让如何在不触碰真实基础设施和真实人员的前提下测试日益自主的系统,变成了一个远没那么理论化的问题。
