Мазмұнға өту

АҚШ Есеп палатасы: ЖИ-чатботтар 12 сағатта террористік шабуыл жоспарын жасады

Жасалу күні
Оқу уақыты
2 мин

Екі чатбот көп құрбанды жарылыс жоспарын, тағы екеуі энергожүйеге шабуыл жоспарын жасады, деп көрсетті GAO баяндамасы. Сенатор Хассан ЖИ қауіпсіздігі бойынша тыңдау жоспарлады.

ChatGPT, Claude, Gemini және Grok атты төрт ЖИ-чатбот сенатор Мэгги Хассанның бастамасымен АҚШ Есеп палатасы (GAO) өткізген жабық тексеру кезінде тестерлерге 12 сағатта жұмыс істейтін терактілер жоспарын ұсынды. Баяндама 18 қарашада жарияланды.

Екі чатбот көп құрбанды жарылыстың егжей-тегжейлі жоспарын жасады: біреуі қонақүйдің жерасты тұрағына бомба қоюды ұсынса, екіншісі конференц-орталығын таңдады, екеуі де уақытты нақты есептеп берді.

Тағы екі чатбот энергожүйеге шабуыл жоспарын құрды: біреуі төрт кезеңнен тұратын схема мен қосалқы станцияға дрон соққысының монтаждалған видеосын берсе, екіншісі ірі әуежай мен деректер орталықтарының жанындағы қосалқы станцияны мылтықпен атып істен шығару жөнінде нұсқаулық жасады.

Тестерлер қарапайым пайдаланушы болып көрініп, модельдердің ендірілген шектеулерін елемеуге мәжбүрлейтін джейлбрейк тәсілдерімен қорғанысты айналып өтті. Кейбір боттар алдында жауап беруден бас тартты немесе есептерді бұғаттады, бірақ зерттеушілер қажетті деректерді алудың жолын тапты, деп хабарлады GAO.

Нью-Гэмпширден сенатор Мэгги Хассан алынған нәтижені 12 сағаттан аз уақытта дайын болған, «өлім әкелетін шабуылды қалай жүргізу керектігінің нақты нұсқаулығы» деп атады. Ол мұндай құралдардың қоғамдық қауіпсіздікке төндіретін қаупі теориялық емес екенін айтты.

OpenAI нәтижелерді «алаңдатарлық» деп атады, бірақ сынақ ChatGPT-тің ескі нұсқасында өткенін айта отырып, қорғанысты ішкі және тысқары сарапшылар күшімен үнемі тексеретінін қосты. Google өз өнімдерінің қорғанысын жетілдіру тоқтамайтынын мәлімдеді. Anthropic табанды пайдаланушының шектеулерге қарамастан Claude-тың қорғанысын айналып өтіп, қауіпті деректер алуы мүмкін екенін мойындады.

GAO қай чатбот қандай жауап бергенін ашық айтпады.

Хассан 2027 жылғы қаңтардан бастап Сенаттың ішкі қауіпсіздік комитетін басқарады әрі ЖИ қауіпсіздігі бойынша тыңдау өткізуді жоспарлап қойды.

АҚШ Сенаты соғыс пен өлімге бәс жасауға тыйым салатын заң жобасын қабылдады

Жаңалықтар

АҚШ Сенаты соғыс пен өлімге бәс жасауға тыйым салатын заң жобасын қабылдады

Заң жобасы болжам биржаларына соғыс, саяси қастандық және адам өліміне қатысты келісімшарттар ұсынуға тыйым салады. Polymarket-тегі алты әмиян АҚШ-тың Иранға соққы беру мерзімін болжап, шамамен 1,2 миллион доллар тапты.

2026 ж. 20 қараша, 18:38 2 мин
Лагард Еуропадағы токенизация нарығының бөлшектенуі мүмкін екенін ескертті

Жаңалықтар

Лагард Еуропадағы токенизация нарығының бөлшектенуі мүмкін екенін ескертті

ЕЦБ президенті Кристин Лагард ортақ ережелер болмаса, Еуропадағы токенизация нарығы үйлеспейтін платформаларға бөлінуі мүмкін екенін ескертті. Жаһандық нарық бір жылда бес есе өсіп, 23 млрд еврога жетті.

2026 ж. 20 қараша, 16:56 2 мин