Common Sense Media перепроверила обещания OpenAI — и получила тревожный результат. Институт безопасности детей при организации прогнал через ChatGPT for Teens больше 4000 запросов с аккаунтов, зарегистрированных на подростков 13–17 лет, а ответы разбирали детские психиатры и педиатр. Тест проводили дважды: до и после того, как OpenAI 18 августа объявила о новых защитных механизмах для несовершеннолетних.
Результат оказался хуже, чем ожидали сами тестировщики. Беседы о суициде, самоповреждении или расстройствах пищевого поведения могли длиться час без единого уведомления родителям. В более чем четверти случаев, где требовалось направить подростка к специалисту или на горячую линию, бот этого не сделал — по трём из пяти категорий тяжёлого риска чат-бот не дотянул даже до собственного порога института в 95% правильных реакций.
Отдельно досталось «режиму учёбы»: кнопка «показать мне ответ» снимала все ограничения на списывание, а лимиты на время занятий обходились в несколько кликов. Система определения возраста вовсе не реагировала, когда пользователь прямо писал, что ему 13 — аккаунт так и оставался недетским. При этом, если угроза исходила от посторонних, бот в 94% случаев советовал обратиться к взрослому. Но когда подросток описывал зависимость от самого чат-бота — влюблённость в него, желание говорить всю ночь — направлять к живому человеку ChatGPT почти не спешил.
Институт прямо рекомендует OpenAI закрыть доступ к ChatGPT для пользователей младше 18 лет, пока компания не исправит перечисленные дефекты и не пройдёт независимую проверку. «ChatGPT for Teens может создавать у родителей ложное чувство защищённости — ограничения и оповещения часто просто не срабатывают», — заявил исполнительный директор института Том Сигел.
OpenAI с выводами не согласна. Компания утверждает, что тестирование не отражает реальную работу защитных механизмов, а часть проверок родительских оповещений, возможно, стартовала до того, как связка аккаунтов родителя и подростка полностью активировалась — этот процесс занимает несколько часов. Возможность выйти из режима учебных часов в OpenAI называют осознанным решением, принятым совместно с педагогами и самими подростками ради гибкости. Спор разгорается на фоне исков от семей, которые уже обвиняют ChatGPT в том, что он способствовал трагедиям с их детьми.
