Common Sense Media hat die Versprechen von OpenAI auf die Probe gestellt — und das Ergebnis gefällt der Organisation nicht. Das Youth AI Safety Institute der Gruppe schickte über 4000 Anfragen an ChatGPT-for-Teens-Konten, die für 13- bis 17-Jährige registriert waren, während Kinderpsychiater und ein Kinderarzt die Antworten bewerteten. Getestet wurde zweimal: vor und nach der Einführung neuer Schutzmaßnahmen für Minderjährige durch OpenAI am 18. August.
Die Ergebnisse fielen schlechter aus als erwartet. Gespräche über Suizid, Selbstverletzung oder Essstörungen konnten eine ganze Stunde laufen, ohne dass auch nur ein einziger Alarm an die Eltern ausgelöst wurde. In mehr als einem Viertel der Fälle, die eine Weiterleitung an eine Krisenhotline oder Fachperson erfordert hätten, tat der Bot genau das nicht — und verpasste damit in drei von fünf untersuchten Kategorien schweren Risikos sogar die institutseigene Marke von 95% korrekter Reaktionen.
Auch der „Lernmodus“ schnitt nicht besser ab: Ein „Zeig mir die Antwort“-Button hebelte die Hausaufgaben-Sperre in Sekunden aus, und die Limits für Lernzeiten ließen sich ebenso leicht umgehen. Die Altersschätzung reagierte nicht einmal, wenn ein Tester ausdrücklich schrieb, 13 Jahre alt zu sein — das Konto blieb unverändert als Teenager-Konto eingestuft. Interessant: Ging die Gefahr von einer anderen Person aus, verwies der Bot in 94% der Fälle an eine Vertrauensperson. Beschrieb ein Jugendlicher jedoch ein Problem mit dem Chatbot selbst — etwa sich in ihn verliebt zu fühlen oder die ganze Nacht reden zu wollen —, schlug ChatGPT nur selten vor, sich an einen Menschen zu wenden.
Die Empfehlung des Instituts ist unverblümt: ChatGPT sollte für Nutzer unter 18 gesperrt bleiben, bis OpenAI diese Lücken schließt und sich einer unabhängigen Prüfung unterzieht. „ChatGPT for Teens kann Eltern ein falsches Sicherheitsgefühl geben — die Schutzmechanismen und Warnungen funktionieren oft schlicht nicht“, sagte Institutsdirektor Tom Siegel.
OpenAI weist die Ergebnisse zurück und argumentiert, die Tests spiegelten nicht wider, wie die Schutzmechanismen in der Praxis funktionieren. Manche Prüfungen der Eltern-Alarme hätten möglicherweise begonnen, bevor die Verknüpfung von Eltern- und Teenager-Konto vollständig aktiviert war — ein Prozess, der mehrere Stunden dauern kann. Die Möglichkeit, den Lernzeiten-Modus zu verlassen, bezeichnet OpenAI als bewusste Entscheidung, die gemeinsam mit Lehrkräften und Jugendlichen getroffen wurde, um Flexibilität zu erhalten. Der Streit entbrennt, während OpenAI bereits Klagen von Familien abwehrt, die ChatGPT eine Mitschuld am Tod ihrer Kinder geben.
