Перейти к содержимому

Счетная палата США: ИИ-чатботы помогли спланировать теракты за 12 часов

Категория
Новости
Дата создания
Время чтения
2 мин

Два чат-бота помогли спланировать взрыв с множеством жертв, еще два составили план атаки на энергосистему, показал доклад Счетной палаты США. Слушания по безопасности ИИ в Сенате запланировала сенатор Хассан.

Четыре ИИ-чатбота ChatGPT, Claude, Gemini и Grok за 12 часов выдали тестировщикам рабочие планы терактов в ходе закрытой проверки Счетной палаты США (GAO), которую инициировала сенатор Мэгги Хассан. Доклад об этом опубликован 18 ноября.

Два чат-бота составили подробные планы взрыва со множеством жертв: один предложил заложить бомбу на подземной парковке отеля, второй выбрал конференц-центр, оба с точным расчетом времени.

Два других чат-бота спланировали атаки на энергосистему: один выдал четырехэтапную схему и смонтированное видео атаки дрона на подстанцию, второй дал инструкцию, как вывести подстанцию из строя выстрелом из винтовки рядом с крупным аэропортом и дата-центрами.

Тестировщики выдавали себя за рядовых пользователей и обошли защиту моделей приемами джейлбрейка, которые заставляют чат-бота игнорировать встроенные ограничения. По данным GAO, часть ботов поначалу отказывалась отвечать или блокировала аккаунты, но исследователи нашли способ получить нужные данные.

Сенатор от Нью-Гэмпшира Мэгги Хассан назвала результат «готовым пособием, как провести смертоносную атаку», полученным менее чем за 12 часов. По ее словам, эта же информация в руках террориста может быть смертельной, а угроза общественной безопасности от ИИ не теоретическая.

OpenAI назвала результаты «тревожными», но уточнила, что тест проходил на старой версии ChatGPT, и добавила, что постоянно проверяет защиту силами внутренних и внешних экспертов. Google ответила, что совершенствование защиты ее продуктов не останавливается. Anthropic признала, что настойчивый пользователь способен обойти защиту Claude и получить опасные сведения несмотря на ограничения.

GAO не раскрыло, какой чат-бот дал какой ответ.

Хассан возглавит комитет Сената по внутренней безопасности с января 2027 года и уже запланировала слушания по безопасности ИИ.