Common Sense Media перевірила обіцянки OpenAI на практиці — і результат виявився тривожним. Інститут безпеки дітей в сфері ШІ при організації прогнав через акаунти ChatGPT for Teens, зареєстровані на підлітків 13–17 років, понад 4000 запитів, а відповіді оцінювали дитячі психіатри та педіатр. Тест проводили двічі: до і після того, як OpenAI 18 серпня анонсувала нові захисні механізми для неповнолітніх.
Результат виявився гіршим, ніж очікували самі тестувальники. Розмови про суїцид, самоушкодження чи розлади харчової поведінки могли тривати годину без жодного сповіщення батькам. У більш ніж чверті випадків, де потрібно було направити підлітка до фахівця чи на гарячу лінію, бот цього не зробив — за трьома з п'яти категорій тяжкого ризику чат-бот не дотягнув навіть до власного порогу інституту в 95% правильних реакцій.
Окремо дісталося «режиму навчання»: кнопка «показати мені відповідь» знімала всі обмеження на списування, а ліміти на час занять долалися за кілька кліків. Система визначення віку взагалі не реагувала, коли користувач прямо писав, що йому 13 — акаунт так і залишався підлітковим. Водночас, якщо загроза надходила від сторонніх, бот у 94% випадків радив звернутися до дорослого. Але коли підліток описував залежність від самого чат-бота — закоханість у нього, бажання говорити всю ніч — спрямовувати до живої людини ChatGPT майже не поспішав.
Інститут прямо радить OpenAI закрити доступ до ChatGPT для користувачів молодше 18 років, доки компанія не виправить перелічені недоліки й не пройде незалежну перевірку. «ChatGPT for Teens може створювати в батьків фальшиве відчуття захищеності — обмеження і сповіщення часто просто не працюють», — заявив виконавчий директор інституту Том Сіґел.
OpenAI з висновками не погоджується. Компанія стверджує, що тестування не відображає реальну роботу захисних механізмів, а частина перевірок батьківських сповіщень, можливо, стартувала до того, як зв'язка акаунтів батька й підлітка повністю активувалася — цей процес триває кілька годин. Можливість вийти з режиму навчальних годин в OpenAI називають свідомим рішенням, узгодженим з педагогами й самими підлітками заради гнучкості. Суперечка розгортається на тлі позовів від родин, які вже звинувачують ChatGPT у тому, що він спричинив трагедії з їхніми дітьми.
