OpenAI、谷歌和Anthropic——这场人工智能竞赛中最重要的三家公司——从今年7月起就一直在秘密磋商,讨论成立一个联合机构,在前沿模型发布前对其进行测试和审查。The Information率先披露了这一消息,随后《华盛顿邮报》等多家媒体证实了报道。
这个想法最早来自谷歌DeepMind负责人戴密斯·哈萨比斯。他在7月14日发表文章,提议仿照美国证券业自律监管机构FINRA的模式,为前沿人工智能建立类似机构,在模型面向公众之前独立评估网络安全、生物安全和操纵行为等风险。
三家公司低于首席执行官层级的团队从夏天起就在商讨细节:审查应多久进行一次、由谁执行、模型达到什么标准才算可以发布。OpenAI的萨姆·奥特曼公开表示支持建立测试审查机构,但强调大型实验室必须自己动手,不能等待华盛顿的支持。
这份报道恰逢一个周末之后传出:Anthropic的达里奥·阿莫迪发表文章,呼吁放慢人工智能发展速度,奥特曼、埃隆·马斯克和哈萨比斯随即公开表示赞同。消息传出后科技股应声下跌,投资者将这几位竞争对手罕见的一致态度,解读为风险比市场此前预期的更严重。
质疑声不小。行业自查的模式可能重蹈2008年金融危机前评级机构的覆辙——被评估的公司同时也是评级机构的客户。到2028年,同时在售的前沿模型可能多达14到16个,审查工作量会持续攀升,而合规成本对小型实验室的打击会比对巨头更重。此外,美国的机构如何与欧盟已经生效的通用人工智能行为准则对接,也是个问题。
此前的自律尝试,比如2023年成立的Frontier Model Forum,效果并不明显。这些每天都在争夺客户和人才的对手,这一次能否真正就共同规则达成一致,还是未知数。
