София Лигуори Google DeepMind-тың Лондон кеңсесінде үш жыл зерттеуші-инженер болып жұмыс істеді. Өткен аптада ол жұмыстан кетті — себебін де жасырмай айтты: өзі жасауға қатысқан технология "соғыстың қаталдығын күшейтуді автоматты түрде жеңілдетеді".
Оқиғаның орталығында Google-дың екі келісімі тұр. Біріншісі — осы жылы қол қойылған, компанияның модельдерін АҚШ-тың құпия әскери жобаларына ашқан Пентагон келісімшарты. Қағаз жүзінде ол адам бақылауынсыз автономды қару мен жаппай бақылауды тыйым салады. Екіншісі — Израиль үкіметі мен әскерімен жасалған бұлтты және ИИ келісімі Project Nimbus, оны құқық қорғау ұйымдары бірнеше жыл бұрын қол қойылғаннан бері сынап келеді.
Лигуори жалғыз емес. Осы айдың басында зерттеуші Андреас Кирш те жұмыстан кетіп, BBC-ге Google-дың ішкі бақылау жүйесі құпия әскери ортада ИИ-ді жауапкершілікпен қолдануға жеткіліксіз екенін айтты. Оның сөзінше, еңбек келісімшарттары қызметкерлерге компанияны жария түрде сынауға іс жүзінде тыйым салады, сол себепті көбі қауіпсіздік мәселесін көтеруден де қорқады.
DeepMind ішінде наразылық екі жоғары деңгейлі кетуден әлдеқайда кең көлемде. Әскери келісімшарттарды тоқтатуды талап еткен ішкі хатқа шамамен 200 қызметкер қол қойды. Лигуори мәселені компания ішінде көтеру әрекеттері нәтижесіз қалғанын айтты: "геноцид" сөзі бар жазбалар өшірілді, басшылар мен HR оның "тым агрессивті" тонын сөгіп, шағымдарға тек жартылай автоматты жауаптар келді.
Google мәселенің мәні бойынша пікір білдірмей, өкілі арқылы компания мемлекеттік сектормен келісімдерде "тұрақты процедураны" ұстанады, өз ИИ қағидаттарын сақтайды және қызметкерлерге зардап шектірмей этикалық қарсылық білдіруге мүмкіндік береді деп мәлімдеді. Бұл оқиға саланың үлкенірек мәселесін көрсетеді: ИИ зертханалары қауіпсіздік туралы көп айтады, бірақ әскери келісімшарттар тым көп табыс әкеледі — тіпті компанияның өз зерттеушілері қарсы шыққанда да олардан бас тарту қиын.
