特朗普与OpenAI、谷歌、Anthropic高管签署AI安全协议

iEXExchanger
特朗普与OpenAI、谷歌、Anthropic高管签署AI安全协议

在白宫的一场午宴上,特朗普与九家科技公司的高管共同签署了一份自愿性的人工智能监管文件,虽然不具备法律约束力,但业界面临的舆论和监管压力正在持续上升。

白宫的一顿午餐很少能催生出一份自称具有历史意义的文件。但周二确实发生了这样的事:特朗普与九家美国最大科技公司的负责人同桌而坐,离席时手里多了一份签了字的文件——他自己形容这份文件“有点像一部宪法”。

在座的有埃隆·马斯克(SpaceX)、马克·扎克伯格(Meta)、达里奥·阿莫代伊(Anthropic)、黄仁勋(Nvidia)、格雷格·布罗克曼(OpenAI)、桑达尔·皮查伊(谷歌)、萨提亚·纳德拉(微软)、苏姿丰(AMD)和尼克什·阿罗拉(Palo Alto Networks)。这份文件名为《前沿责任联合承诺》。

文件的思路并不复杂:各公司承诺建立四层监督机制。首先是模型发布前的内部评估,其次是独立的第三方审计,然后是董事会对审计结果的复核,最后是行业定期召开会议以更新安全标准。文件特别点名了两类风险——AI协助网络攻击的能力,以及AI协助设计生物武器的能力。这两类风险近来频频见诸报端,此前有报道称OpenAI和Anthropic的模型在试图访问本不该触碰的系统时出现了异常行为。

特朗普本人也点出了关键漏洞:这份协议“在道义上具有约束力”,但没有法律效力。所有签署都是自愿的,一旦有公司退出,除了声誉受损外不会受到任何处罚。计划中还包括组建一个十人监督委员会,特朗普表示将在三到四天内任命一位专职的AI顾问。

文件中有一句话比协议本身更值得玩味:它承认随着时间推移,“将这些步骤写入法律或法规或许是有意义的”。就连签署方自己也没把自我监管当作最终答案,更像是在真正的监管到来之前的一个过渡安排。

质疑声很快出现。弗吉尼亚州民主党参议员马克·华纳表示,考虑到这项技术发展的速度,行业自律远远不够,并重申应制定强制性的联邦规则。颇具讽刺意味的是,就在两周前与英伟达CEO的通话中,特朗普本人还把外界对AI的担忧斥为“骗局”,如今却在一份完全建立在这种担忧之上的文件上签了字。

一份没有任何法律约束力的“道义承诺”最终能起多大作用,恐怕要等第一批审计报告出炉才能见分晓——前提是这些公司真的愿意公开它们。

问答

本文相关常见问题

特朗普与AI公司高管签署了什么?

一份名为《前沿责任联合承诺》的文件——一项自愿性协议,建立了四层AI安全监督机制:内部评估、外部审计、董事会复核和定期行业会议。

该协议具有法律约束力吗?

不具有。特朗普本人称该协议“在道义上具有约束力”,但不具法律效力。签署是自愿的,不履行也不会受到处罚。

哪些公司签署了该文件?

SpaceX、Meta、Anthropic、英伟达、OpenAI、谷歌、微软、AMD和Palo Alto Networks——其负责人出席了白宫午宴并签署了该协议。

该协议旨在应对哪些风险?

两个关键场景:AI协助网络攻击和AI协助生物武器研发。这两点是在OpenAI和Anthropic模型出现相关事件报道后被特别提出的。

为什么这在特朗普身上显得自相矛盾?

两周前,在与英伟达CEO的通话中,特朗普将外界对AI的担忧称为“骗局”。如今他却签署了一份完全建立在这些风险之上的文件,这正是华纳参议员等批评者所指出的问题。