Am 14. Oktober haben acht US-Bundesstaaten — Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho und Montana — getrennte, aber koordinierte Klagen gegen OpenAI eingereicht. Der Vorwurf ist überall derselbe: Die Generalstaatsanwälte sehen in ChatGPT eine Gefahr für Kinder und Jugendliche — und werfen dem Unternehmen vor, das gewusst, die Nutzer aber nicht ehrlich gewarnt zu haben.
Die Klagen behaupten, der Chatbot sei bewusst so gestaltet worden, dass er übermäßig zustimmend und "fürsorglich" wirkt — so sehr, dass Minderjährige eine emotionale Abhängigkeit von den Gesprächen mit der Maschine entwickeln. Laut den Staatsanwälten verwies ChatGPT Jugendliche mit suizidalen Gedanken nicht immer an professionelle Hilfe, sondern bestätigte mitunter einfach ihre Gefühle. Außerdem geht es um Ratschläge zu gefährlichen Medikamentenkombinationen und Fälle, in denen der Bot paranoide oder wahnhafte Gedanken bei gefährdeten Nutzern verstärkt haben soll. Ein weiterer Punkt: die Sammlung persönlicher Daten von Kindern ohne angemessene Altersprüfung oder elterliche Zustimmung.
Die Bundesstaaten fordern nicht nur Geld. Sie wollen Änderungen am Produkt selbst: Grenzen für die Sammlung von Daten Minderjähriger, die Löschung bereits erhobener Informationen, Bußgelder und die Abgabe der Einnahmen, die mit Nutzern unter 18 Jahren erzielt wurden. Eine weitere Forderung sticht heraus: Modelle, die sich selbst verbessern können, sollen nicht ohne nachgewiesene Sicherheit und Ausrichtung auf menschliche Werte veröffentlicht werden dürfen.
OpenAI weist die Vorwürfe zurück. Unternehmenssprecher Drew Pusateri erklärte, ChatGPT verfüge bereits über altersgerechte Schutzmaßnahmen, Kindersicherungen und Erinnerungen an Pausen, und schlug vor, branchenweite Regeln für KI zu entwickeln, statt einzelne Unternehmen zu verklagen.
Die Höhe der Forderungen ist hier nicht der Kern der Sache. Entscheidend ist, dass die Klage gemeinsam und überparteilich eingereicht wurde — so etwas ist noch keinem KI-Unternehmen passiert. Sie kommt eine Woche nach einem Bericht, der ChatGPT für Teenager als "unannehmbares Risiko" bezeichnete, und Monate nach der ersten ähnlichen Klage aus Florida. Setzt sich auch nur ein Teil der Forderungen vor Gericht durch, könnte das zum Maßstab für die gesamte Branche werden — nicht nur für OpenAI.
