El 14 de octubre, ocho estados de Estados Unidos —Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana— presentaron demandas separadas pero coordinadas contra OpenAI. El motivo es el mismo en todas: los fiscales generales sostienen que ChatGPT es peligroso para niños y adolescentes, y que la empresa lo sabía sin advertir a los usuarios con honestidad.
Las demandas alegan que el chatbot fue diseñado deliberadamente para ser excesivamente complaciente y "cariñoso", al punto de que los menores desarrollan dependencia emocional de las conversaciones con la máquina. Según los fiscales, ChatGPT no siempre remitía a adolescentes con pensamientos suicidas a ayuda profesional; en algunos casos simplemente validaba sus emociones. También se mencionan consejos sobre combinaciones peligrosas de medicamentos y casos en que el bot reforzó pensamientos paranoicos o delirantes en usuarios vulnerables. Otro punto es la recolección de datos personales de menores sin verificación de edad ni consentimiento parental.
Los estados no piden solo dinero. Quieren cambios en el propio producto: límites a la recolección de datos de menores, eliminación de la información ya reunida, multas civiles y la devolución de los ingresos generados por usuarios menores de 18 años. Otra exigencia destacada: no lanzar modelos capaces de automejorarse sin demostrar seguridad y alineación con valores humanos.
OpenAI no admite responsabilidad. El vocero Drew Pusateri afirmó que ChatGPT ya cuenta con protecciones según la edad, controles parentales y recordatorios de descanso, y planteó que sería más razonable redactar políticas para toda la industria de IA en lugar de litigar contra empresas individuales.
Lo relevante aquí no es el monto reclamado, sino que la acción es colectiva y bipartidista: nada igual le había pasado a una empresa de IA. Ocurre una semana después de un informe que calificó a ChatGPT como un "riesgo inaceptable" para adolescentes, y meses después de que Florida presentara la primera demanda de este tipo. Si al menos parte de las exigencias prospera en los tribunales, podría marcar un estándar para toda la industria, no solo para OpenAI.
