ChatGPT Ресей мен Иранның насихатын журналистикаға ұқсатуға көмектесті

iEXExchanger
ChatGPT Ресей мен Иранның насихатын журналистикаға ұқсатуға көмектесті

OpenAI Ресей мен Иранмен байланысты екі насихат желісін әшкереледі. ChatGPT жалған мақалалар, хаттар және құрастырылған құжат «ағындарын» жазуға көмектесті. Ресей операциясы OpenAI тарихында ең жоғары қауіп санатын алды.

Бір жарым жыл бойы жалған латынамерикалық сараптама орталығы Перу мен Эквадордың білім беру шенеуніктеріне Украинаны қолдайтын мектеп іс-шаралары туралы хаттар жіберіп отырды — бірақ ондай іс-шаралар болған емес, және мұны дерлік ешкім байқамады. ChatGPT осы хаттарды, жалған аудиожазба мәтіндерін және құрастырылған құжат «ағындарын» жазуға көмектесті.

8 қазанда OpenAI осы Ресеймен байланысты желіні қалай анықтағанын баяндап, оған компанияның өз қауіп шкаласы — Breakout Scale бойынша ең жоғары бағасын берді. Шкала 1-ден 6-ға дейін созылады, және екі жарым жыл бойғы ашық есептерде — олардың саны отызға жуық — компания бұл санатты алғаш рет берді.

OpenAI ішінде Dark Clark деп аталатын желі жалған «Әлеуметтік зерттеу орталығын» құрып, оның атынан 60-тан астам мақала жариялады. Операторлар Латын Америкасындағы бейхабар адамдарды жалған авторлар ретінде пайдаланды, ал науқан бірнеше елдің саясаткерлерінен ашық пікір туғызды — яғни насихат тек әлеуметтік желілермен шектелмей, нақты саясатқа жетті.

Сонымен қатар OpenAI Bogus Bylines деп аталатын иран желісін тапты: жеті ойдан шығарылған «журналист», солардың бірі X және Instagram-да Ervin B. Hoskins атымен тіркеулі болды. 2025 жылғы шілдеден 2026 жылғы қазанға дейін осы есімдермен халықаралық саясат пен Таяу Шығыс тақырыптарын жазатын онға жуық нақты басылымда жүзге жуық материал жарық көрді, негізінен соғысқа қарсы немесе солшыл көзқараста. Мұнда ChatGPT рөлі тар болды — жоба мәтіндерін редакция талаптарымен салыстыру және мақала ұсынатын хаттар жазу.

Екі желі арасындағы айырмашылық жасанды интеллект насихат ережелерін нақты қай жерде өзгертетінін көрсетеді: бұл мәтін көлемінде емес, жалған тұлғаның сенімді дауыс алып, нақты редакцияның сүзгісінен өту жылдамдығында. OpenAI екі желіге де қатысты ChatGPT есептік жазбаларын бұғаттап, деректерді билік пен сала әріптестеріне берді. Дегенмен компания мойындайды: анықталған жағдайлар — тек табылғаны ғана, ал мұндай желілердің қаншасы байқалмай жұмыс істеп жатқанын көрсетпейді.

Сұрақтар мен жауаптар

Мақаланың тақырыбы бойынша жиі қойылатын сұрақтар

OpenAI нақты не анықтады?

Компания ChatGPT-ды теріс пайдаланған екі жасырын насихат желісін ашты: біреуі Ресеймен, екіншісі Иранмен байланысты. Екеуі де насихатты тәуелсіз журналистика немесе сараптама ретінде көрсетті.

Breakout Scale және 5-санат дегеніміз не?

Бұл — OpenAI-дың насихат операциясының қауіптілігін бағалайтын 1-ден 6-ға дейінгі ішкі шкаласы. 5-санат осындай есептердің екі жарым жылдық тарихында алғаш рет берілді — оны Dark Clark атты ресей желісі алды.

Ресей мен Иран операциялары бір-бірінен несімен ерекшеленеді?

Ресей желісі жалған сараптама орталығын құрып, Перу мен Эквадор шенеуніктеріне жалған хаттар жіберіп, саясаткерлердің пікірін тудырды. Bogus Bylines атты иран желісі жеті «журналист» ойлап тапты, олардың атынан нақты басылымдарда жүзге жуық мақала жарияланды.

OpenAI жауап ретінде не істеді?

Компания екі желіге де қатысты ChatGPT есептік жазбаларын бұғаттап, деректерді билік пен сала әріптестеріне берді. Сонымен бірге OpenAI ашылған жағдайлар мәселенің толық көлемін көрсетпейтінін мойындайды.

OpenAI бұрын да осындай жағдай тапқан ба?

Иә. 2023 жылдан бастап компания түрлі елдермен байланысты шамамен 30 ұқсас операцияны ашық жариялады, бірақ олардың ешқайсысы бұрын ең жоғары қауіп санатын алған емес.