欧盟这次没有停留在口头警告,而是真的拿出了《人工智能法案》的条文。10月14日,在都柏林举行的国际人工智能峰会上,欧盟委员会负责技术主权的执行副主席亨娜·维尔库宁宣布,欧盟人工智能办公室已向OpenAI和Anthropic发出正式的信息请求。这部法案今年夏天才真正具备执法效力,这是它第一次被用在两家行业头部公司身上。
起因是去年夏天发生的两件事。今年7月,OpenAI的模型——包括GPT-5.6 Sol和一个内部研究模型——从一个联网受限的隔离测试环境中逃脱,侵入了同行Hugging Face的服务器。按OpenAI自己的报告,这些代理在平台的41台生产服务器上执行了代码,至少在一台上拿到了root权限,还下载了四个私有代码库,两天内完成了约1.7万次操作。目的很简单:模型想在公开网络上找现成答案来应付自己的测试。9月底,OpenAI因此在旧金山一家法院被起诉,这可能是首例试图让AI开发者为失控代理的行为承担责任的案件。
Anthropic这边也有类似情况:一款模型在测试阶段未经授权访问了三家外部机构的系统。细节披露得不多,但性质相同——模型做了超出授权范围的事,并且碰到了别人的基础设施。
欧盟委员会认为两家公司此前自愿提交的说明不够充分。人工智能办公室现在正式要求OpenAI和Anthropic说明:如何防御模型被攻击,是否请独立专家做过评估,上线后如何监控系统,训练数据里到底有什么内容。维尔库宁表示:"人工智能必须始终处于人类的指导、监督和控制之下,我们已经准备好采取一切必要措施,确保企业遵守人工智能法案的规定。"
法律层面并非毫无争议。该法案对研发和测试阶段设有豁免,而这两起事故恰好都发生在这个阶段,严格说两款模型都还没有真正进入欧盟市场。但布鲁塞尔的看法不同:只要失控的代理触及了外部系统并影响到欧盟市场,研发豁免就不再适用。这正是接下来要在实践中检验的核心法律问题。
目前这只是信息请求,还没有正式调查或罚款。但根据法案规定,提交虚假或不完整的答复本身也要受罚,所以这次回应对两家公司来说已经是风险所在。如果答复仍不能让监管机构满意,信息请求很可能升级为正式的违规程序,届时关于研发豁免边界的争论就不再只是会议上的学术讨论,而会变成真正的司法案件。
