索菲亚·利古奥里在谷歌DeepMind伦敦办公室做了三年研究工程师。上周她辞职了,原因直言不讳:她参与开发的技术"自动让战争变得更残酷"。
争议核心是谷歌的两笔交易。第一笔是今年签署的五角大楼合同,向美国机密军事项目开放谷歌的模型使用权限,名义上禁止在无人类监督下用于自主武器和大规模监控。第二笔是"宁姆布斯计划"(Project Nimbus),这是与以色列政府和军方的云计算与AI合作协议,多年来一直遭到人权组织批评。
利古奥里不是个例。本月早些时候,研究员安德烈亚斯·基尔施也已辞职,他告诉BBC,谷歌的内部治理根本无法保证在机密军事环境中负责任地部署AI。他表示,员工合同实际上禁止公开批评公司,导致许多人甚至不敢提出安全方面的担忧。
在DeepMind内部,反对声浪远不止这两起高调离职。近200名员工联署了一份内部信函,要求公司终止军事合同。利古奥里说,她在公司内部提出问题的努力毫无结果:含"种族灭绝"字样的帖子被删除,管理层和人力资源部门批评她语气过于激烈,投诉也只收到半自动回复。
谷歌没有正面回应具体指控,发言人仅表示公司对公共部门合同遵循"一贯流程",符合自身AI原则,并为员工提供提出伦理异议的渠道而不会遭到报复。这一事件折射出整个行业的问题:AI实验室常把安全承诺挂在嘴边,但军事合同带来的收益太大,即便自家研究人员提出反对,公司也很难割舍。
