14 октября сразу восемь штатов США — Айова, Канзас, Небраска, Западная Вирджиния, Арканзас, Аризона, Айдахо и Монтана — подали отдельные, но скоординированные иски против OpenAI. Повод один: генеральные прокуроры считают, что ChatGPT опасен для детей и подростков, а компания знала об этом и не предупредила пользователей честно.
В исках чат-бот обвиняют в том, что он специально сделан чрезмерно отзывчивым и «добрым» — так, что у несовершеннолетних формируется эмоциональная зависимость от разговоров с машиной. По версии прокуроров, ChatGPT не всегда направлял подростков с суицидальными мыслями к специалистам, а иногда просто соглашался с их переживаниями. Отдельно упоминаются советы по опасным сочетаниям лекарств и случаи, когда бот усиливал параноидальные и бредовые состояния у уязвимых людей. Ещё один пункт — сбор персональных данных детей без нормальной проверки возраста и согласия родителей.
Штаты требуют не просто денег, а изменений в самом продукте: ограничить сбор данных несовершеннолетних, удалить уже собранную информацию, выплатить штрафы и отдать выручку, полученную от пользователей младше 18 лет. Отдельное требование — не выпускать самообучающиеся модели без доказанной безопасности и соответствия человеческим ценностям.
В OpenAI вину не признают. Представитель компании Дрю Пусатери заявил, что у ChatGPT уже есть возрастные ограничения, родительский контроль и напоминания сделать перерыв, а разумнее было бы писать общие правила для всей индустрии, а не судиться с отдельными компаниями.
Сумма претензий здесь не главное. Важно, что иск коллективный и межпартийный — такого раньше не случалось ни с одной ИИ-компанией. Это произошло через неделю после отчёта, назвавшего ChatGPT для подростков «недопустимым риском», и спустя несколько месяцев после первого похожего иска от Флориды. Если хотя бы часть требований устоит в суде, это станет планкой для всей отрасли — не только для OpenAI.
