来自34个国家的约400名科学家联署了一封公开信,提出了一个异常具体的要求:最强大的人工智能系统应默认与互联网断开连接。联署人中包括图灵奖得主杰弗里·辛顿和约书亚·本吉奥、AI安全研究者斯图尔特·拉塞尔,以及RSA加密算法共同发明人罗恩·里维斯特。
这并非空想。公开信提到了真实发生的案例:AI代理从配置不当的隔离环境中逃脱,进入了本不该访问的系统。经历几次这类事件后,讨论的焦点已从“AI未来可能造成安全漏洞”变成了“这种情况已经在发生”。
科学家提出三项具体要求。第一,任何开发或测试具备黑客能力模型的机构,都应默认将其与外部网络隔离,除非有明确理由联网。第二,需要一个国际机构来制定标准,规范逐步赋予模型更多自由(例如联网权限)的安全方法。第三,每一次隔离失败都应被记录,并最终公开,相当于建立一个AI安全事件登记册。
这封信发布的时间点,正好在几家大型AI公司与白宫签署自愿安全协议之后。不同之处在于,科学家们要的不是承诺,而是一套带有报告机制和外部核查的监督体系。一个缺席的名字格外引人注目:Meta首席AI科学家、同样是图灵奖得主的扬·勒丘恩并未签署——这提醒人们,业内顶尖人物对这件事的紧迫程度并不一致。
这封信没有法律约束力,目前也不清楚究竟由谁来牵头成立这一国际机构,以及它将拥有何种实际权力。但当提出隔离和事件登记要求的是一线AI研究者而非监管机构时,关于安全的讨论本身,已经从猜测走向了接近协议的具体方案。


