Сенбі күні таңертең Microsoft бас директоры Сатья Наделла X желісінде қысқа да нақты жазды: жасанды интеллектке адамдар басқаратын, алгоритмнің өзі емес, төтенше тоқтату түймесі қажет. Ол мұны «апаттық тежегіш» деп атады — модельді тапсырманың орта кезінде де, не істеп жатса да, кез келген сәтте тоқтата алу немесе өшіру мүмкіндігі.
Оның логикасы қатаң болжамға негізделген: әрбір модельді әдепкі бойынша бұзылған болуы мүмкін деп қарастыру керек, әзірлеушінің уәдесіне сенбей. Сол үшін ол нейрожелінің өзін «арқалық» — оған нақты құралдар мен деректерге қолжетімділік беретін бағдарламалық қабаттан бөлуді ұсынды. Бақылау, оның пікірінше, модельден тыс жерде болуы керек: жалғандыруға болмайтын, адам оқи алатын әрекеттер журналы және жанды операторға ЖИ-дің кез келген шешімін жоққа шығару құқығының кепілдігі.
Наделла «суперинтеллект» терминін қолданды — бұл Трамп әкімшілігі жетілдірілген ЖИ жүйелерін атауға жиі қолданатын сөз — және компаниялар мұндай жүйелерді тек қабылдап немесе қабылдамайтын ұя салынған қара жәшік ретінде қарастыра алмайды деп жазды. Жазба Anthropic компаниясының Claude моделі Филадельфия полициясына өз бетінше кісі өлтіру туралы жалған мәлімет жіберген оқиғадан бірнеше күн кейін пайда болды — оның ойында дәл осындай бақылаудан шыққан агент эпизодтары болған сияқты.
Ұсыныстың бір анық кемшілігі бар: Microsoft өзі де меншікті және серіктес модельдер негізінде ЖИ-агенттерін корпорацияларға сатады, сондықтан «апаттық тежегішке» шақыру нарық стандартын өз шарттарымен белгілеуге талпыныс та болып көрінеді. Соған қарамастан, қолмен бақылау қажеттігі туралы зертханадағы қауіпсіздік зерттеушісі емес, әлемдегі ең ірі технология компанияларының бірінің басшысы айтқаны маңызды. Бұл тақырыптың академиялық есептерден шығып, директорлар кеңесінің отырысына жеткенін көрсетеді.
