Мазмұнға өту

БҰҰ: жасанды интеллект адамзаттың бақылау қабілетінен асып кетуде

Жасалу күні
Оқу уақыты
4 мин

БҰҰ-ның 40 ғалымы Йошуа Бенжионың жетекшілігімен алғашқы тәуелсіз жаһандық ЖИ тәуекел бағалауын жариялады: апатты зиянға қарсы ешқандай кепілдік жоқ, реттеу жүйесі артта қалуда.

Жасанды интеллект жүйелері орындай алатын тапсырмалардың күрделілігі әр төрт-жеті айда екі есе артып отыр. Бұл жарнамалық ұран емес — ҰҰ тапсырысымен дайындалған, тарихтағы алғашқы тәуелсіз жаһандық ЖИ ғылыми бағалауының негізгі тұжырымы осы.

Тьюринг сыйлығының лауреаты Йошуа Бенжионың жетекшілігімен дүние жүзінің әр өңірінен жиналған қырық ғалым ЖИ тәуекелдері мен мүмкіндіктерін бағалады. Олардың негізгі қорытындысы ыңғайсыз: технология ғылымның зерттей алу қарқынынан да, үкіметтердің бейімделу қарқынынан да озып кетуде. Жасанды интеллект апатты зиян келтірмейді деп ешкім кепілдік бере алмайды.

Нақты қатерлердің ішінде сарапшылар автономды агенттік жүйелерден бақылауды жоғалту, ЖИ туындатқан дезақпараттың толқыны, жаңа буын кибершабуылдар және ЖИ-ны биологиялық қатерлер жасауға пайдалану мүмкіндігін атайды. Жаһандық реттеу жүйесі де бытыраңқы: елдердің басым бөлігінде озық ЖИ жүйелерін бағалайтын құрал жоқ.

Баяндама 6–7 шілдеде Женевада өтетін ЖИ басқаруына арналған БҰҰ-ның алғашқы Жаһандық диалогында үкіметтерге ұсынылады. Бір мезгілде Руанда президенті Поль Кагаме мен Salesforce бас директоры Марк Бениофф бірлесіп басқаратын «Игілік үшін ЖИ» жаһандық комиссиясының құрылатыны жарияланды.

Ғалымдар прогресті тоқтатуды талап етпейді — олар ЖИ-ның медицина, білім және ғылым саласындағы орасан мүмкіндіктерін мойындайды. Оларды алаңдататын нәрсе — жарыстың логикасы: компаниялар жүйелерді тексергеннен жылдамырақ іске қосады, бұл қауіпсіздік стандарттарын жүйелі түрде төмендетеді. Женева — үкіметтердің бірге жауап іздеуге алғашқы мүмкіндігі.

Сұрақтар мен жауаптар

Мақаланың тақырыбы бойынша жиі қойылатын сұрақтар

Йошуа Бенжио — заманауи терең оқытудың негізін қалаушылардың бірі, Монреаль университетінің профессоры және Тьюринг сыйлығының иегері. Ол жылдар бойы ЖИ экзистенциалдық тәуекелдері туралы ашық ескертіп келеді, сондықтан БҰҰ оны тәуелсіз ғылыми топтың тең төрағасы етіп тағайындады.

Cyber көпірінің күдікті бұзылуын тексереді, биржалар CYBER трансферін тоқтатты

Жаңалықтар

Cyber көпірінің күдікті бұзылуын тексереді, биржалар CYBER трансферін тоқтатты

Шабуылдаушы ұрланған CYBER-дің бір бөлігін 968 мың доллар ETH-ке айырбастады, ал Cyber көпірдің бұзылу күдігін тексеріп жатыр. Bithumb пен Upbit Кореяда CYBER трансферін тоқтатты, бірақ сауда жалғасады.

2026 ж. 22 қараша, 11:03 2 мин
Fluidkey криптоәмиянының пайдаланушыларынан хакер $1,6 миллион доллар ұрлады

Жаңалықтар

Fluidkey криптоәмиянының пайдаланушыларынан хакер $1,6 миллион доллар ұрлады

Шабуылдаушы сырт лог қызметіндегі осалдықты пайдаланып, пайдаланушылардың жеке кілттері құрылғыларында қалса да, олардың қаражатын ұрлап әкетті. Bitquery ұрланған $1,58 миллионның алты блокчейндегі ізін тапты.

2026 ж. 22 қараша, 08:11 2 мин
Chainflip қоймасынан $4,86 млн ұрланғаннан кейін айырбастауды тоқтатты

Жаңалықтар

Chainflip қоймасынан $4,86 млн ұрланғаннан кейін айырбастауды тоқтатты

Протокол Ethereum қоймасынан $4,86 млн шығарылғаннан кейін айырбастау, депозит, шығару операцияларын тоқтатты, FLIP токені 34%-ға құлдырады, Chainflip капитализациясы $41,6 млн-нан $27,1 млн-ге дейін төмендеді.

2026 ж. 21 қараша, 19:10 2 мин