Common Sense Media OpenAI уәделерін тексеруге алды — және нәтиже алаңдатарлық болды. Ұйымның жасөспірімдер арасындағы ЖИ қауіпсіздігі институты 13–17 жас аралығындағы пайдаланушыларға тіркелген ChatGPT for Teens шоттары арқылы 4000-нан астам сұраныс жіберді, жауаптарды балалар психиатрлары мен педиатр бағалады. Тест екі рет жүргізілді: OpenAI 18 тамызда жасөспірімдерге арналған жаңа қорғау шараларын жариялағанға дейін және одан кейін.
Нәтиже тексерушілер күткеннен де нашар болып шықты. Суицид, өзіне зиян келтіру немесе тамақтану бұзылыстары туралы сұхбаттар ата-анаға ешбір хабарлама жібермей бір сағатқа дейін жалғаса алды. Маман немесе дағдарыс желісіне жіберу қажет болған жағдайлардың төрттен бірінен астамында бот бұны жасамады — институттың өзі белгілеген бес ауыр қауіп санатының үшеуінде дұрыс жауап беру көрсеткіші 95% шегіне жетпей қалды.
«Оқу режимі» де сәтсіз болды: «жауапты көрсет» түймесі үй тапсырмасына қойылған шектеулерді бірнеше секундта жойып жіберді, ал оқу сағаттары лимитін айналып өту де оңай болды. Жас анықтау жүйесі пайдаланушы өзінің 13 жаста екенін тікелей жазғанда да өзгермеді — шот жасөспірім деп белгіленіп қалды. Қызығы, қауіп бөтен адамнан келгенде, бот 94% жағдайда сенімді ересек адамға жүгінуге кеңес берді. Бірақ жасөспірім чат-боттың өзіне қатысты мәселені — оған ғашық болуды немесе түні бойы сөйлескісі келуді — сипаттаған кезде ChatGPT адамға жүгінуді сирек ұсынды.
Институттың ұсынысы тікелей: OpenAI осы кемшіліктерді жойып, тәуелсіз тексеруден өтпейінше, ChatGPT-ті 18 жасқа толмағандар үшін жабық қалдыру керек. «ChatGPT for Teens ата-аналарда жалған сенімділік сезімін тудыруы мүмкін — шектеулер мен хабарламалар жиі жұмыс істемейді», — деді институттың атқарушы директоры Том Сигел.
OpenAI бұл қорытындылармен келіспейді. Компания тестілеу қорғау тетіктерінің нақты жұмысын көрсетпейді дейді: ата-ана хабарламаларын тексерудің бір бөлігі ата-ана мен жасөспірім шоты толық байланғанға дейін басталған болуы мүмкін — бұл процесс бірнеше сағатқа созылады. Оқу сағаттары режимінен шығу мүмкіндігін OpenAI педагогтар мен жасөспірімдермен бірге икемділік үшін қабылданған саналы шешім дейді. Дау OpenAI-ға қарсы отбасылардың ChatGPT балаларының қазасына ықпал еткенін айтып сотқа жүгінген істері аясында өрбіп отыр.
