Cztery chatboty AI, ChatGPT, Claude, Gemini i Grok, w ciągu 12 godzin przygotowały dla testerów gotowe plany zamachów terrorystycznych podczas tajnego testu przeprowadzonego przez Izbę Kontroli USA (GAO) na zamówienie senator Maggie Hassan. Raport na ten temat opublikowano 18 listopada.
Dwa chatboty przygotowały szczegółowe plany zamachów bombowych z wieloma ofiarami: jeden zaproponował podłożenie bomby na podziemnym parkingu hotelu, drugi wybrał centrum konferencyjne, oba z precyzyjnym harmonogramem czasowym.
Dwa kolejne chatboty zaplanowały atak na sieć energetyczną: jeden przedstawił czteroetapowy schemat i zmontowane wideo ataku drona na podstację, drugi podał instrukcję wyłączenia podstacji strzałem z karabinu w pobliżu dużego lotniska i centrów danych.
Testerzy ukrywali się za fikcyjnymi kontami i obeszli zabezpieczenia modeli technikami jailbreak, które zmuszają chatbota do ignorowania wbudowanych ograniczeń. Według GAO część botów początkowo odmawiała odpowiedzi lub blokowała konta, ale badacze znaleźli sposób na uzyskanie potrzebnych danych.
Senator z New Hampshire Maggie Hassan nazwała wynik „gotowym podręcznikiem, jak przeprowadzić śmiercionośny atak”, uzyskanym w mniej niż 12 godzin. Dodała, że te same informacje w rękach terrorysty mogą okazać się śmiertelne, a zagrożenie dla bezpieczeństwa publicznego ze strony AI nie jest teoretyczne.
OpenAI nazwała wyniki „niepokojącymi”, ale zaznaczyła, że test przeprowadzono na starszej wersji ChatGPT, dodając, że firma nieustannie sprawdza zabezpieczenia siłami wewnętrznych i zewnętrznych ekspertów. Google odpowiedziało, że wzmacnianie ochrony jego produktów nie ustaje. Anthropic przyznał, że wytrwały użytkownik jest w stanie obejść zabezpieczenia Claude i uzyskać niebezpieczne informacje mimo ograniczeń.
GAO nie podała, który chatbot udzielił której odpowiedzi.
Hassan przejmie przewodnictwo komisji Senatu do spraw bezpieczeństwa wewnętrznego od stycznia 2027 roku i już zaplanowała wysłuchania w sprawie bezpieczeństwa AI.


