Софи Лигуори три года занималась исследованиями в лондонском офисе Google DeepMind. На прошлой неделе она уволилась — и объяснила почему прямо: технология, которую она помогала создавать, «автоматически делает войну более жестокой».
Речь о двух сделках Google. Первая — контракт с Пентагоном, подписанный в этом году: он открывает доступ к моделям компании для закрытых военных проектов США. Формально контракт запрещает автономное оружие и массовую слежку без участия человека. Вторая — Project Nimbus, облачно-ИИ соглашение с правительством и армией Израиля, которое критикуют правозащитники с момента его подписания несколько лет назад.
Лигуори не единственная. Ранее в октябре из компании ушёл исследователь Андреас Кирш — он публично заявил, что внутренний контроль Google недостаточен, чтобы безопасно разворачивать ИИ в закрытых военных и разведывательных структурах. По его словам, трудовые контракты фактически запрещают сотрудникам открыто критиковать компанию, из-за чего многие боятся говорить о проблемах безопасности.
Внутри DeepMind протест оказался куда шире двух громких отставок. Письмо с требованием разорвать военные контракты подписали около 200 сотрудников. Лигуори рассказала, что её попытки поднять тему внутри компании ничем не закончились: посты со словом «геноцид» удаляли, руководители и HR упрекали её в «слишком агрессивном тоне», а на жалобы приходили лишь шаблонные автоответы.
Google от комментариев по существу уклонился, заявив через представителя, что компания следует «последовательному процессу» при работе с госзаказчиками, соблюдает собственные принципы работы с ИИ и даёт сотрудникам каналы для этических возражений без последствий. Для индустрии история показательна: крупные ИИ-лаборатории годами декларируют приверженность безопасности, но военные контракты — деньги слишком большие, чтобы от них отказаться, даже когда против выступают свои же исследователи.
