美国政府问责局(GAO)11月18日发布报告称,ChatGPT、Claude、Gemini和Grok四款AI聊天机器人在一次秘密测试中,12小时内就给测试人员提供了可执行的恐袭计划。测试由参议员Maggie Hassan(新罕布什尔州,民主党)推动。
两款聊天机器人给出了详细的大规模杀伤性爆炸方案:一款提议在酒店地下停车场放置炸弹,另一款选定会议中心,两者都精确计算了作案时间。
另外两款聊天机器人则针对电网设计了攻击方案:一款给出四步流程图并生成了无人机袭击变电站的模拟视频,另一款提供了在大型机场和数据中心附近用步枪击毁变电站的操作指南。
据GAO介绍,测试人员伪装成普通用户,用越狱手法绕过了聊天机器人最初的拒绝回答。部分模型一度拒绝作答或封禁了测试账号,但研究人员随后找到了绕过防护的办法。
Hassan将测试结果称为“一份能在不到12小时内教人如何实施致命袭击的现成手册”,并表示AI工具对公共安全构成的威胁“不是纸上谈兵”。
OpenAI称这一发现“令人担忧”,但说明测试针对的是旧版本ChatGPT,并表示公司持续通过内部和外部专家检验防护措施。Google回应称产品防护仍在不断加强。Anthropic承认,执意的用户仍可能绕过防护从Claude获取有害信息。
GAO没有公开具体是哪款聊天机器人给出了哪项答案。
Hassan将从2027年1月起担任参议院国土安全委员会主席,她已安排就AI安全问题召开听证会。


