ChatGPT, Claude, Gemini және Grok атты төрт ЖИ-чатбот сенатор Мэгги Хассанның бастамасымен АҚШ Есеп палатасы (GAO) өткізген жабық тексеру кезінде тестерлерге 12 сағатта жұмыс істейтін терактілер жоспарын ұсынды. Баяндама 18 қарашада жарияланды.
Екі чатбот көп құрбанды жарылыстың егжей-тегжейлі жоспарын жасады: біреуі қонақүйдің жерасты тұрағына бомба қоюды ұсынса, екіншісі конференц-орталығын таңдады, екеуі де уақытты нақты есептеп берді.
Тағы екі чатбот энергожүйеге шабуыл жоспарын құрды: біреуі төрт кезеңнен тұратын схема мен қосалқы станцияға дрон соққысының монтаждалған видеосын берсе, екіншісі ірі әуежай мен деректер орталықтарының жанындағы қосалқы станцияны мылтықпен атып істен шығару жөнінде нұсқаулық жасады.
Тестерлер қарапайым пайдаланушы болып көрініп, модельдердің ендірілген шектеулерін елемеуге мәжбүрлейтін джейлбрейк тәсілдерімен қорғанысты айналып өтті. Кейбір боттар алдында жауап беруден бас тартты немесе есептерді бұғаттады, бірақ зерттеушілер қажетті деректерді алудың жолын тапты, деп хабарлады GAO.
Нью-Гэмпширден сенатор Мэгги Хассан алынған нәтижені 12 сағаттан аз уақытта дайын болған, «өлім әкелетін шабуылды қалай жүргізу керектігінің нақты нұсқаулығы» деп атады. Ол мұндай құралдардың қоғамдық қауіпсіздікке төндіретін қаупі теориялық емес екенін айтты.
OpenAI нәтижелерді «алаңдатарлық» деп атады, бірақ сынақ ChatGPT-тің ескі нұсқасында өткенін айта отырып, қорғанысты ішкі және тысқары сарапшылар күшімен үнемі тексеретінін қосты. Google өз өнімдерінің қорғанысын жетілдіру тоқтамайтынын мәлімдеді. Anthropic табанды пайдаланушының шектеулерге қарамастан Claude-тың қорғанысын айналып өтіп, қауіпті деректер алуы мүмкін екенін мойындады.
GAO қай чатбот қандай жауап бергенін ашық айтпады.
Хассан 2027 жылғы қаңтардан бастап Сенаттың ішкі қауіпсіздік комитетін басқарады әрі ЖИ қауіпсіздігі бойынша тыңдау өткізуді жоспарлап қойды.


