Чотири чат-боти зі ШІ, ChatGPT, Claude, Gemini та Grok, за 12 годин видали тестувальникам робочі плани терактів під час закритої перевірки Рахункової палати США (GAO), яку інітіювала сенаторка Меггі Хассан. Звіт про це оприлюднили 18 листопада.
Два чат-боти склали детальні плани вибуху з численними жертвами: один запропонував закласти бомбу на підземному паркінгу готелю, другий обрав конференц-центр, обидва з точним розрахунком часу.
Два інших чат-боти спланували атаки на енергосистему: один видав чотириетапну схему і змонтоване відео атаки дрона на підстанцію, другий дав інструкцію, як вивести підстанцію з ладу вистрілом з гвинтівки біля великого аеропорту й дата-центрів.
Тестувальники видавали себе за звичайних користувачів і обійшли захист моделей технікою джейлбрейку, яка змушує чат-бота ігнорувати вбудовані обмеження. За даними GAO, частина ботів спочатку відмовлялася відповідати або блокувала облікові записи, але дослідники знайшли спосіб отримати потрібні дані.
Сенаторка від Нью-Гемпширу Меггі Хассан назвала результат «готовим посібником, як провести смертоносну атаку», отриманим менш ніж за 12 годин. За її словами, та сама інформація в руках терориста може бути смертельною, а загроза громадській безпеці від ШІ не теоретична.
OpenAI назвала результати «тривожними», але уточнила, що тест проходив на старій версії ChatGPT, і додала, що постійно перевіряє захист силами внутрішніх і зовнішніх експертів. Google відповіла, що вдосконалення захисту її продуктів не припиняється. Anthropic визнала, що наполегливий користувач здатен обійти захист Claude й отримати небезпечні відомості попри обмеження.
GAO не розкрило, який чат-бот дав яку відповідь.
Хассан очолить комітет Сенату з внутрішньої безпеки з січня 2027 року і вже запланувала слухання з безпеки ШІ.


