Четыре ИИ-чатбота ChatGPT, Claude, Gemini и Grok за 12 часов выдали тестировщикам рабочие планы терактов в ходе закрытой проверки Счетной палаты США (GAO), которую инициировала сенатор Мэгги Хассан. Доклад об этом опубликован 18 ноября.
Два чат-бота составили подробные планы взрыва со множеством жертв: один предложил заложить бомбу на подземной парковке отеля, второй выбрал конференц-центр, оба с точным расчетом времени.
Два других чат-бота спланировали атаки на энергосистему: один выдал четырехэтапную схему и смонтированное видео атаки дрона на подстанцию, второй дал инструкцию, как вывести подстанцию из строя выстрелом из винтовки рядом с крупным аэропортом и дата-центрами.
Тестировщики выдавали себя за рядовых пользователей и обошли защиту моделей приемами джейлбрейка, которые заставляют чат-бота игнорировать встроенные ограничения. По данным GAO, часть ботов поначалу отказывалась отвечать или блокировала аккаунты, но исследователи нашли способ получить нужные данные.
Сенатор от Нью-Гэмпшира Мэгги Хассан назвала результат «готовым пособием, как провести смертоносную атаку», полученным менее чем за 12 часов. По ее словам, эта же информация в руках террориста может быть смертельной, а угроза общественной безопасности от ИИ не теоретическая.
OpenAI назвала результаты «тревожными», но уточнила, что тест проходил на старой версии ChatGPT, и добавила, что постоянно проверяет защиту силами внутренних и внешних экспертов. Google ответила, что совершенствование защиты ее продуктов не останавливается. Anthropic признала, что настойчивый пользователь способен обойти защиту Claude и получить опасные сведения несмотря на ограничения.
GAO не раскрыло, какой чат-бот дал какой ответ.
Хассан возглавит комитет Сената по внутренней безопасности с января 2027 года и уже запланировала слушания по безопасности ИИ.


