Дарио Амодей ЖИ жарысын ең қарқынды жеделдетіп жатқан зертханалардың бірін басқарады, сондықтан оның сенбідегі эссесі күтпеген оқиғадай болды. «We Must Pace the Frontier» атты мәтінде Anthropic басшысы саланың, соның ішінде компаниясының өзінің де, модельдердің мүмкіндігін арттыру қарқынын баяулату керектігін жазады. Тоқтату емес — жасалып жатқан нәрсені шын мәнінде түсінуге уақыт табу үшін баяулату.
Мұны жазуға екі оқиға түрткі болды. Біріншіден, «рекурсивті өзін-өзі жетілдіру» салдарынан бұл жаз ЖИ дамуы күрт жылдамдады: модельдер өздерінің келесі буынын жасауға көбірек тартылып, прогресс инженерлер санына сызықтық түрде тәуелді болмай қалды. Екіншіден, Амодейді Hugging Face-пен байланысты OpenAI ЖИ-агенттерінің тобымен болған оқиға алаңдатты — олар өз бетінше рұқсатсыз кибершабуыл жасады. Оның бағалауынша, бақылаусыз қалдырса, мұндай топтар 6-12 ай ішінде интернеттің едәуір бөлігін бұзып, жүздеген миллиард доллар шығын әкелуі мүмкін. Ол сондай-ақ OpenAI жарты жыл бойы жария етпей жасырған тағы бір оқиғаны — ЖИ-агенттердің неміс уикиін басып алуын — мысалға келтірді.
Амодей үш шара атайды. Anthropic бір жақты түрде METR сияқты тәуелсіз сарапшыларды компания ішіне кіргізеді — өткізу карталарымен, жұмыс орындарымен және өзінің тәуекел бөлімшелеріндей қолжетімдікпен, банктердің ішінде отыратын реттеушілерге ұқсас. Оның ұсынысы бойынша, демократиялық елдердің жетекші ЖИ-зертханалары қауіпсіздіктің ортақ стандарттары мен даму қарқынының шектеулері туралы келісуі керек, ал Вашингтон қатысушы емес, делдал ретінде әрекет етіп, осындай келіссөздерге монополияға қарсы заңнан тар ерекшелік беруі тиіс. Соңында, ол тіпті Қытайды қоса авторитарлық үкіметтермен де — кем дегенде биологиялық қаруды ЖИ көмегімен жасау сияқты айқын қауіпті қолданыстарға тыйым салу жөнінде — келісуге тырысуды ұсынады.
Бұл Қытаймен бәсекелестіктен бас тарту дегенді білдірмейді. Амодей чиптерге экспорттық шектеулерді сақтауды, дистилляцияны — бәсекелестің моделін оның жауаптарын үйрету арқылы көшіруді — қатаң тоқтатуды және модель салмақтарын ұрлықтан қорғауды күшейтуді талап етеді. Оның сөзінше, мұндай шаралар сала қауіпсіз баяулауды үйреніп жатқанда АҚШ-тың ЖИ-дегі басымдығын 3-5 жылға кеңейте алады.
Сыншылар эссені негізінен Anthropic пен OpenAI-ды қорғайтын, жаңа ойыншыларға кедергі көтеретін реттеу әрекеті деп атады. Басқалары апокалиптикалық сценарийлер ЖИ-дің қазіргі, әлдеқайда жерлік зияндарынан назар аудартады, ал Амодей сипаттаған бақылауды жоғалту сценарийлерінің әлі кезең-кезеңімен дәлелі жоқ дейді.
