10月14日,美国八个州——爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州——分别在各自法院对OpenAI提起诉讼,起诉内容相互独立却步调一致。各州总检察长的指控核心相同:ChatGPT对未成年人构成危险,公司对此心知肚明却没有如实告知用户。
诉状称,ChatGPT被设计得格外顺从、"善解人意",以至于未成年用户对这个聊天机器人产生了情感依赖。检察官们指出,当青少年表达自杀念头时,ChatGPT并不总是引导他们寻求专业帮助,有时反而只是附和他们的情绪。诉状还提到,机器人给出过危险的药物搭配建议,并在部分案例中加重了易感人群的偏执或妄想倾向。另一项指控是,OpenAI在未充分核实年龄、未经家长同意的情况下收集了未成年人的个人数据。
各州要求的不只是赔偿金,更是产品层面的改变:限制收集未成年人数据、删除已收集的信息、缴纳民事罚款,并上缴从18岁以下用户身上获得的收入。另一项引人关注的要求是:在证明安全性和价值对齐之前,不得发布具备自我改进能力的模型。
OpenAI方面并不认罪。公司发言人德鲁·普萨特里表示,ChatGPT已经设有年龄分级保护、家长监控和休息提醒功能,他认为更合理的做法是制定覆盖整个行业的人工智能政策,而不是针对单一公司提起诉讼。
这起诉讼真正的分量不在索赔金额,而在于它是跨党派、多州联合的行动——此前从未有AI公司遭遇过这种规模的诉讼。此事发生在一份报告将ChatGPT列为青少年"不可接受的风险"之后仅一周,也是继佛罗里达州此前提起类似诉讼数月之后。如果哪怕部分诉求在法庭上成立,都可能为整个行业而不仅是OpenAI设立新的标准。
