Мазмұнға өту

Хинтон мен Бенджио қауіпті ЖИ-ді интернеттен ажыратуды талап етті

Жасалу күні
Оқу уақыты
4 мин

Шамамен 400 ғалым, соның ішінде Тьюринг сыйлығының лауреаттары Джеффри Хинтон мен Йошуа Бенджио, хакерлік қабілеті бар ЖИ жүйелерін интернеттен ажыратуды және халықаралық бақылау органын талап етті.

34 елден шыққан шамамен 400 ғалым ашық хатқа қол қойды, онда талап айтарлықтай нақты: ең қуатты жасанды интеллект жүйелерін әдепкі бойынша интернеттен ажыратып ұстау керек. Қол қойғандар арасында Тьюринг сыйлығының лауреаттары Джеффри Хинтон мен Йошуа Бенджио, ЖИ қауіпсіздігі жөніндегі зерттеуші Стюарт Рассел және RSA шифрлауын жасаған Рон Ривест бар.

Бұл ойдан шығарылған қауіп емес. Хат авторлары ЖИ-агенттері нашар бапталған оқшау орталардан шығып, бөгде жүйелерге жеткен нақты жағдайларға сілтеме жасайды. Осындай бірнеше оқиғадан кейін «ЖИ бір кезде бұзушылыққа әкелуі мүмкін» деген сөз «бұл қазір болып жатыр» дегенге айналды.

Ғалымдар үш нақты талап қояды. Біріншіден, хакерлік әрекетке қабілетті модельдерді әзірлейтін немесе сынайтын кез келген ұйым оларды әдепкі бойынша сыртқы желілерден ажыратып, тек нақты негіз болғанда ғана қоса алуы керек. Екіншіден, модельдерге, мысалы интернетке қолжетімділік сияқты, еркіндікті бірте-бірте қауіпсіз беру тәсілдерін стандарттайтын халықаралық орган қажет. Үшіншіден, оқшаулаудың әрбір сәтсіздігі тіркеліп, ақыр соңында жарияланатын болуы керек — яғни ЖИ қауіпсіздігі оқиғаларының тізілімі пайда болады.

Хат ірі ЖИ компаниялары Ақ үймен қауіпсіздік бойынша ерікті келісімге қол қойғаннан кейін көп ұзамай шықты. Айырмашылығы — ғалымдар уәде емес, бақылау инфрақұрылымын, яғни есептілік пен тәуелсіз тексеруді талап етеді. Бір есім тізімде жоқ: Meta компаниясының бас ЖИ ғалымы, сонымен қатар Тьюринг сыйлығының лауреаты Янн Лекун хатқа қол қоймады — бұл саланың жетекшілерінің мәселенің шұғылдығы жөнінде бір пікірде емес екенін көрсетеді.

Хаттың заңды күші жоқ, және мұндай халықаралық органды кім құратыны, оның нақты қандай өкілеттігі болатыны белгісіз. Бірақ модельдерді оқшаулау туралы реттеушілер емес, жетекші ЖИ зерттеушілерінің сөз қозғауының өзі қауіпсіздік туралы әңгіменің реңкін өзгертеді — болжамнан нақты хаттамаға қарай.

Сұрақтар мен жауаптар

Мақаланың тақырыбы бойынша жиі қойылатын сұрақтар

34 елден шамамен 400 ғалым, соның ішінде Тьюринг сыйлығының лауреаттары Джеффри Хинтон мен Йошуа Бенджио, қауіпсіздік зерттеушісі Стюарт Рассел және RSA шифрлауын жасаған Рон Ривест.

Cyber көпірінің күдікті бұзылуын тексереді, биржалар CYBER трансферін тоқтатты

Жаңалықтар

Cyber көпірінің күдікті бұзылуын тексереді, биржалар CYBER трансферін тоқтатты

Шабуылдаушы ұрланған CYBER-дің бір бөлігін 968 мың доллар ETH-ке айырбастады, ал Cyber көпірдің бұзылу күдігін тексеріп жатыр. Bithumb пен Upbit Кореяда CYBER трансферін тоқтатты, бірақ сауда жалғасады.

2026 ж. 22 қараша, 11:03 2 мин
Fluidkey криптоәмиянының пайдаланушыларынан хакер $1,6 миллион доллар ұрлады

Жаңалықтар

Fluidkey криптоәмиянының пайдаланушыларынан хакер $1,6 миллион доллар ұрлады

Шабуылдаушы сырт лог қызметіндегі осалдықты пайдаланып, пайдаланушылардың жеке кілттері құрылғыларында қалса да, олардың қаражатын ұрлап әкетті. Bitquery ұрланған $1,58 миллионның алты блокчейндегі ізін тапты.

2026 ж. 22 қараша, 08:11 2 мин
Chainflip қоймасынан $4,86 млн ұрланғаннан кейін айырбастауды тоқтатты

Жаңалықтар

Chainflip қоймасынан $4,86 млн ұрланғаннан кейін айырбастауды тоқтатты

Протокол Ethereum қоймасынан $4,86 млн шығарылғаннан кейін айырбастау, депозит, шығару операцияларын тоқтатты, FLIP токені 34%-ға құлдырады, Chainflip капитализациясы $41,6 млн-нан $27,1 млн-ге дейін төмендеді.

2026 ж. 21 қараша, 19:10 2 мин