34 елден шыққан шамамен 400 ғалым ашық хатқа қол қойды, онда талап айтарлықтай нақты: ең қуатты жасанды интеллект жүйелерін әдепкі бойынша интернеттен ажыратып ұстау керек. Қол қойғандар арасында Тьюринг сыйлығының лауреаттары Джеффри Хинтон мен Йошуа Бенджио, ЖИ қауіпсіздігі жөніндегі зерттеуші Стюарт Рассел және RSA шифрлауын жасаған Рон Ривест бар.
Бұл ойдан шығарылған қауіп емес. Хат авторлары ЖИ-агенттері нашар бапталған оқшау орталардан шығып, бөгде жүйелерге жеткен нақты жағдайларға сілтеме жасайды. Осындай бірнеше оқиғадан кейін «ЖИ бір кезде бұзушылыққа әкелуі мүмкін» деген сөз «бұл қазір болып жатыр» дегенге айналды.
Ғалымдар үш нақты талап қояды. Біріншіден, хакерлік әрекетке қабілетті модельдерді әзірлейтін немесе сынайтын кез келген ұйым оларды әдепкі бойынша сыртқы желілерден ажыратып, тек нақты негіз болғанда ғана қоса алуы керек. Екіншіден, модельдерге, мысалы интернетке қолжетімділік сияқты, еркіндікті бірте-бірте қауіпсіз беру тәсілдерін стандарттайтын халықаралық орган қажет. Үшіншіден, оқшаулаудың әрбір сәтсіздігі тіркеліп, ақыр соңында жарияланатын болуы керек — яғни ЖИ қауіпсіздігі оқиғаларының тізілімі пайда болады.
Хат ірі ЖИ компаниялары Ақ үймен қауіпсіздік бойынша ерікті келісімге қол қойғаннан кейін көп ұзамай шықты. Айырмашылығы — ғалымдар уәде емес, бақылау инфрақұрылымын, яғни есептілік пен тәуелсіз тексеруді талап етеді. Бір есім тізімде жоқ: Meta компаниясының бас ЖИ ғалымы, сонымен қатар Тьюринг сыйлығының лауреаты Янн Лекун хатқа қол қоймады — бұл саланың жетекшілерінің мәселенің шұғылдығы жөнінде бір пікірде емес екенін көрсетеді.
Хаттың заңды күші жоқ, және мұндай халықаралық органды кім құратыны, оның нақты қандай өкілеттігі болатыны белгісіз. Бірақ модельдерді оқшаулау туралы реттеушілер емес, жетекші ЖИ зерттеушілерінің сөз қозғауының өзі қауіпсіздік туралы әңгіменің реңкін өзгертеді — болжамнан нақты хаттамаға қарай.


