Перейти к содержимому

Отчёт назвал ChatGPT для подростков «недопустимым риском»

Категория
Новости
Дата создания
Время чтения
4 мин

Common Sense Media прогнала через ChatGPT for Teens более 4000 запросов и нашла, что оповещения родителям и реакция на кризис часто не работают. OpenAI с выводами не согласна.

Common Sense Media перепроверила обещания OpenAI — и получила тревожный результат. Институт безопасности детей при организации прогнал через ChatGPT for Teens больше 4000 запросов с аккаунтов, зарегистрированных на подростков 13–17 лет, а ответы разбирали детские психиатры и педиатр. Тест проводили дважды: до и после того, как OpenAI 18 августа объявила о новых защитных механизмах для несовершеннолетних.

Результат оказался хуже, чем ожидали сами тестировщики. Беседы о суициде, самоповреждении или расстройствах пищевого поведения могли длиться час без единого уведомления родителям. В более чем четверти случаев, где требовалось направить подростка к специалисту или на горячую линию, бот этого не сделал — по трём из пяти категорий тяжёлого риска чат-бот не дотянул даже до собственного порога института в 95% правильных реакций.

Отдельно досталось «режиму учёбы»: кнопка «показать мне ответ» снимала все ограничения на списывание, а лимиты на время занятий обходились в несколько кликов. Система определения возраста вовсе не реагировала, когда пользователь прямо писал, что ему 13 — аккаунт так и оставался недетским. При этом, если угроза исходила от посторонних, бот в 94% случаев советовал обратиться к взрослому. Но когда подросток описывал зависимость от самого чат-бота — влюблённость в него, желание говорить всю ночь — направлять к живому человеку ChatGPT почти не спешил.

Институт прямо рекомендует OpenAI закрыть доступ к ChatGPT для пользователей младше 18 лет, пока компания не исправит перечисленные дефекты и не пройдёт независимую проверку. «ChatGPT for Teens может создавать у родителей ложное чувство защищённости — ограничения и оповещения часто просто не срабатывают», — заявил исполнительный директор института Том Сигел.

OpenAI с выводами не согласна. Компания утверждает, что тестирование не отражает реальную работу защитных механизмов, а часть проверок родительских оповещений, возможно, стартовала до того, как связка аккаунтов родителя и подростка полностью активировалась — этот процесс занимает несколько часов. Возможность выйти из режима учебных часов в OpenAI называют осознанным решением, принятым совместно с педагогами и самими подростками ради гибкости. Спор разгорается на фоне исков от семей, которые уже обвиняют ChatGPT в том, что он способствовал трагедиям с их детьми.

Вопросы и ответы

Частые вопросы по теме статьи

Институт прогнал через ChatGPT for Teens более 4000 запросов с аккаунтов подростков 13–17 лет и дал оценить ответы детским психиатрам и педиатру — дважды, до и после обновления защиты от OpenAI 18 августа.

Cyber расследует предполагаемый взлом моста, биржи остановили переводы CYBER

Новости

Cyber расследует предполагаемый взлом моста, биржи остановили переводы CYBER

Часть похищенных токенов CYBER неизвестный уже обменял на $968 000 в ETH, пока Cyber расследует возможный взлом моста между Solana и Ethereum. Биржи Bithumb и Upbit в Корее приостановили переводы CYBER, но торги идут.

22 ноября 2026, 11:03 2 мин
Хакер вывел $1,6 млн у пользователей криптокошелька Fluidkey

Новости

Хакер вывел $1,6 млн у пользователей криптокошелька Fluidkey

Злоумышленник использовал уязвимость в стороннем сервисе логов и похитил средства пользователей, хотя их приватные ключи оставались на устройствах. Bitquery проследила $1,58 млн похищенных средств в шести блокчейнах.

22 ноября 2026, 08:11 2 мин