Софія Лігуорі три роки працювала інженеркою-дослідницею в лондонському офісі Google DeepMind. Минулого тижня вона пішла — і пояснила причину без прикрас: технологія, яку вона допомагала створювати, за її словами, "автоматично робить війну жорстокішою".
У центрі історії — дві угоди Google. Перша — контракт із Пентагоном, підписаний цього року, що відкриває доступ до моделей компанії для закритих військових проєктів США. На папері він забороняє автономну зброю та масове стеження без участі людини. Друга — Project Nimbus, угода про хмарні сервіси та ШІ з урядом і армією Ізраїлю, яку правозахисні організації критикують ще з моменту підписання кілька років тому.
Лігуорі не одна така. Раніше в жовтні компанію залишив дослідник Андреас Кірш — він публічно заявив BBC, що внутрішній контроль Google недостатній для безпечного розгортання ШІ в закритих військових і розвідувальних структурах. За його словами, трудові контракти фактично забороняють співробітникам відкрито критикувати компанію, через що багато хто боїться навіть піднімати питання безпеки.
Усередині DeepMind протест виявився набагато ширшим за два голосні звільнення. Лист із вимогою розірвати військові контракти підписали близько 200 співробітників. Лігуорі розповіла, що її спроби порушити тему всередині компанії нічим не завершилися: дописи зі словом "геноцид" видаляли, керівники та HR дорікали їй за "занадто агресивний тон", а на скарги надходили лише шаблонні автоматичні відповіді.
Google по суті від коментарів ухилився, заявивши через представника, що компанія дотримується "послідовного процесу" в роботі з державними замовниками, виконує власні принципи роботи з ШІ та надає співробітникам канали для етичних заперечень без наслідків. Історія показова для всієї галузі: великі ШІ-лабораторії роками декларують відданість безпеці, але військові контракти приносять надто великі гроші, щоб від них відмовлятися — навіть коли проти виступають власні дослідники.
