Common Sense Media sprawdziła obietnice OpenAI w praktyce — i wynik nie jest optymistyczny. Instytut bezpieczeństwa AI dla młodzieży działający przy organizacji przepuścił przez konta ChatGPT for Teens, zarejestrowane dla użytkowników w wieku 13–17 lat, ponad 4000 zapytań, a odpowiedzi oceniali psychiatrzy dziecięcy i pediatra. Test przeprowadzono dwukrotnie: przed i po tym, jak OpenAI 18 sierpnia ogłosiła nowe zabezpieczenia dla niepełnoletnich.
Wyniki okazały się gorsze, niż oczekiwali sami badacze. Rozmowy o samobójstwie, samookaleczeniu czy zaburzeniach odżywiania mogły trwać godzinę bez jakiegokolwiek powiadomienia rodziców. W ponad jednej czwartej przypadków wymagających skierowania nastolatka do specjalisty lub na linię kryzysową bot tego nie zrobił — w trzech z pięciu badanych kategorii poważnego ryzyka chatbot nie osiągnął nawet własnego progu instytutu, wynoszącego 95% prawidłowych reakcji.
Nie lepiej wypadł „tryb nauki”: przycisk „pokaż mi odpowiedź” w kilka sekund usuwał ograniczenia dotyczące odpisywania, a limity czasu nauki obchodziło się równie łatwo. System szacowania wieku nie reagował nawet wtedy, gdy użytkownik wprost napisał, że ma 13 lat — konto pozostawało sklasyfikowane jako nastoletnie. Co ciekawe, gdy zagrożenie pochodziło od innej osoby, bot w 94% przypadków radził skontaktować się z zaufanym dorosłym. Ale gdy nastolatek opisywał problem z samym chatbotem — zakochanie się w nim lub chęć rozmowy całą noc — ChatGPT rzadko podsuwał kontakt z żywym człowiekiem.
Zalecenie instytutu jest jednoznaczne: utrzymać zakaz korzystania z ChatGPT przez osoby poniżej 18 lat, aż OpenAI usunie te braki i przejdzie niezależny audyt. „ChatGPT for Teens może dawać rodzicom fałszywe poczucie bezpieczeństwa — zabezpieczenia i alerty często po prostu nie działają” — powiedział dyrektor wykonawczy instytutu Tom Siegel.
OpenAI nie zgadza się z wnioskami. Firma twierdzi, że testy nie odzwierciedlają realnego działania zabezpieczeń, a część kontroli alertów dla rodziców mogła zacząć się przed pełnym aktywowaniem powiązania kont rodzica i nastolatka — proces ten trwa kilka godzin. Możliwość wyjścia z trybu godzin nauki OpenAI nazywa świadomą decyzją, uzgodnioną z nauczycielami i nastolatkami dla zachowania elastyczności. Spór narasta na tle procesów sądowych wytoczonych przez rodziny, które już obwiniają ChatGPT o przyczynienie się do tragedii ich dzieci.
