14 października osiem amerykańskich stanów — Iowa, Kansas, Nebraska, Wirginia Zachodnia, Arkansas, Arizona, Idaho i Montana — złożyło osobne, ale skoordynowane pozwy przeciwko OpenAI. Powód jest wszędzie ten sam: prokuratorzy generalni twierdzą, że ChatGPT jest niebezpieczny dla dzieci i nastolatków, a firma o tym wiedziała, nie ostrzegając użytkowników w sposób uczciwy.
W pozwach czatbot jest obwiniany o to, że został celowo zaprojektowany jako nadmiernie ustępliwy i "troskliwy" — do tego stopnia, że u nieletnich rozwija się emocjonalna zależność od rozmów z maszyną. Według prokuratorów ChatGPT nie zawsze kierował nastolatków z myślami samobójczymi do specjalistów, a czasem po prostu potwierdzał ich emocje. W pozwach wspomniano też o niebezpiecznych kombinacjach leków, które polecał bot, oraz przypadkach, gdy wzmacniał paranoiczne lub urojeniowe myślenie u wrażliwych osób. Kolejny punkt to zbieranie danych osobowych dzieci bez odpowiedniej weryfikacji wieku i zgody rodziców.
Stany nie żądają tylko pieniędzy. Chcą zmian w samym produkcie: ograniczenia zbierania danych nieletnich, usunięcia już zebranych informacji, kar cywilnych i oddania przychodów uzyskanych od użytkowników poniżej 18 lat. Osobne żądanie dotyczy zakazu wypuszczania modeli zdolnych do samodoskonalenia bez udowodnionego bezpieczeństwa i zgodności z ludzkimi wartościami.
OpenAI nie przyznaje się do winy. Rzecznik firmy Drew Pusateri oświadczył, że ChatGPT już ma zabezpieczenia zależne od wieku, kontrolę rodzicielską i przypomnienia o przerwach, a rozsądniej byłoby stworzyć ogólne zasady dla całej branży AI, niż pozywać poszczególne firmy.
Kwota roszczeń nie jest tu najważniejsza. Liczy się to, że pozew jest zbiorowy i ponadpartyjny — czegoś takiego nie przeżyła wcześniej żadna firma z branży AI. Dzieje się to tydzień po raporcie, który nazwał ChatGPT "niedopuszczalnym ryzykiem" dla nastolatków, i kilka miesięcy po pierwszym podobnym pozwie ze strony Florydy. Jeśli choć część żądań przetrwa w sądzie, może to wyznaczyć standard dla całej branży, nie tylko dla OpenAI.
