Sofia Liguori trzy lata pracowała jako inżynierka badawcza w londyńskim biurze Google DeepMind. W zeszłym tygodniu złożyła rezygnację — i nie owijała w bawełnę, podając powód: technologia, którą pomagała tworzyć, jej słowami "automatycznie ułatwia eskalację brutalności wojny".
W centrum sprawy są dwie umowy Google. Pierwsza to kontrakt z Pentagonem podpisany w tym roku, który otwiera modele firmy na niejawne projekty wojskowe USA. Na papierze zakazuje on autonomicznej broni i masowego nadzoru bez udziału człowieka. Druga to Project Nimbus — umowa dotycząca chmury i AI z rządem i armią Izraela, krytykowana przez organizacje praw człowieka od momentu podpisania kilka lat temu.
Liguori nie jest sama. Na początku tego miesiąca z firmy odszedł też badacz Andreas Kirsch, który powiedział BBC, że wewnętrzny nadzór Google jest po prostu niewystarczający, by odpowiedzialnie wdrażać AI w niejawnych środowiskach wojskowych. Według niego umowy o pracę faktycznie zakazują pracownikom publicznej krytyki firmy, przez co wielu obawia się nawet zgłaszać obawy dotyczące bezpieczeństwa.
Wewnątrz DeepMind sprzeciw okazał się znacznie szerszy niż dwa głośne odejścia. List z żądaniem zerwania kontraktów wojskowych podpisało blisko 200 pracowników. Liguori relacjonowała, że jej próby poruszenia tematu wewnątrz firmy nie przyniosły efektu: posty ze słowem "genocide" usuwano, przełożeni i HR zarzucali jej zbyt agresywny ton, a na skargi przychodziły tylko zautomatyzowane odpowiedzi.
Google nie odniosło się do meritum sprawy — rzecznik stwierdził jedynie, że firma stosuje "konsekwentny proces" przy kontraktach z sektorem publicznym, przestrzega własnych Zasad AI i daje pracownikom kanały do zgłaszania zastrzeżeń etycznych bez konsekwencji. Ta sprawa ujawnia coś szerszego w branży: laboratoria AI dużo mówią o bezpieczeństwie, ale kontrakty wojskowe przynoszą zbyt duże pieniądze, by z nich zrezygnować — nawet gdy sprzeciwiają się im własni badacze firmy.
