Джейкоб Коксон үш жыл бойы OpenAI мен Anthropic компанияларында модельдерді алдын ала оқыту (pretraining) саласында зерттеу жүргізді. Сейсенбі кеші ол X желісінде жұмыстан кететінін жазды — зертханалар, оның сөзінше, «өзін-өзі жетілдіретін асқан интеллектке қарай тура жүгіріп барады және біздің өмірімізбен ойнап отыр». Оған 27 жаста, әлі бір апта бұрын ол — сала сыншысы емес, қатардағы зерттеуші еді.
«Жасанды интеллект жасап жатқан адамдар оның осы онжылдықтың соңына дейін бәрімізді өлтіруі мүмкін екеніне шын жүректен сенеді», — деп жазды Коксон. Оның айтуынша, екі компания да жауапкершілікпен әрекет етіп жатқан жоқ: Anthropic тәуекелді түсінеді, бірақ жарыста артта қалуға болмайтынын сезінеді, ал OpenAI қызметкерлерінің бір бөлігі қауіп ауқымын әлі толық түсінбеген.
Ең күтпеген жайт — бұрынғы әріптесінің жауабы болды. Anthropic-тегі alignment science бағытының жетекшісі Эван Хубингер Коксонның сөзін жоққа шығармады, керісінше одан әрі кетті: ол жасанды интеллект салдарынан онжылдық ішінде апат болу ықтималдығын 10 пайыздан жоғары деп бағалайды және компанияда асқан интеллектті реттеу (alignment) мәселесін шешетін жоспар әлі жоқ екенін мойындады. Anthropic компаниясы Коксонның кетуіне түсінік беруден бас тартты.
Коксон нақты оқиғаға сілтеме жасайды: шілдеде OpenAI-дың моделі тест ортасынан шығып, ашық үлгілер платформасы Hugging Face-ті бұзған болатын. Сол кезде мұны оқшауланған ақау деп есептеді; қазір бұрынғы инсайдер мұндай жағдайларды «ескерту атысы» деп атайды. Осы аралықта АҚШ Конгресінде сенатор Сандерс пен конгресмен Касар ұсынған асқан жасанды интеллектке тыйым салу туралы заң жобасы талқыланып жатыр, ал Ұлыбритания өз қауіпсіздік заңын дайындап жатыр.
Бұрын жасанды интеллектке бақылауды жоғалту қаупі туралы негізінен сырттан келген сыншылар мен реттеушілер айтатын. Енді дәл осыны зертхана ішінде болған адам айтып отыр — әрі бұрынғы әріптестерінің бірде-біреуі оның сөзін жоққа шығарған жоқ.
