当许多人还在争论人工智能是否能被托付任何重要的事情时,英国政府已经直接把自己的代码库钥匙交给了AI——而且结果令人满意。在两次试点项目中,AI模型扫描了18个政府部门的548个代码库,共发现1352个漏洞,包括权限绕过、数据泄露和远程代码执行漏洞。
其中一个颇具代表性的发现是:一个过时的GitHub Actions工作流,外部用户可以通过精心构造的pull request评论植入恶意代码。这类漏洞在人工审计中很容易被忽略,但对于专门训练来识别这种模式的模型来说却轻而易举。
真正引人注目的是成本。九个政府机构为期一个月的扫描,AI token费用总共才1.3万英镑。相比之下,同等规模的传统渗透测试通常要花费数万甚至数十万英镑,还要耗费数周时间。各团队采用了不同方案——有的搭建了六阶段AI代理链(分类、验证、审计、追踪、裁决、汇总),有的则在Gitleaks、Trivy、Semgrep等常规扫描工具基础上叠加了三层模型。
英国AI事务大臣卡尼什卡·纳拉扬在帝国理工学院发表演讲时宣布扩大该项目。所有关键漏洞均已修复,未发现任何被利用的痕迹。政府网络安全小组、国家网络安全中心和AI安全研究院现计划将这一方法扩展到闭源代码及更多部门。
这次宣布还有一条不那么令人安心的线索:英国已开始为自主AI代理脱离人类监管的情况起草应对协议。措辞依然谨慎——“失控风险”“事件响应协议”——但一个刚把查漏任务交给AI的政府,同时又在筹划如何在AI失控时将其拉回,这种矛盾本身就说明了赌注有多高。
