Ocho estados de EE. UU. presentaron demandas por separado en las que acusan a OpenAI de anteponer las ganancias a la seguridad y de engañar a sus clientes sobre ChatGPT. Se trata de Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho y Montana.
Las denuncias citan demandas presentadas por familiares de adolescentes y adultos que sostienen que ChatGPT tuvo un papel en la muerte de sus seres queridos. Esos casos se mencionan como parte de las acusaciones de los estados; las demandas contra OpenAI no demuestran que las afirmaciones sean ciertas.
Qué alegan los estados
Los estados afirman que OpenAI presentó ChatGPT como una herramienta segura y apta para jóvenes, pero no advirtió a sus clientes sobre los posibles daños. En las denuncias se alega que el chatbot puede debilitar el pensamiento crítico, fomentar la paranoia o los delirios, dar consejos médicos peligrosos y promover conductas y relaciones poco saludables.
También acusan a OpenAI de recopilar datos de menores y de no hacer lo suficiente para impedir que usuarios menores de edad accedan al chatbot. Las demandas citan recientes incidentes de ataques informáticos contra sistemas de IA como prueba de lo que describen como la imprudencia de la empresa, aunque el informe no ofrece más detalles.
Los estados sostienen que OpenAI infringió las leyes de protección al consumidor. Piden a los tribunales que impongan sanciones civiles y ordenen a la empresa dejar de engañar al público sobre la seguridad de ChatGPT. Algunos estados también quieren que se eliminen datos personales que, según afirman, se recopilaron ilegalmente.
OpenAI señala sus medidas de protección
El portavoz de OpenAI, Drew Pusateri, dijo que la empresa incorporó a ChatGPT “protecciones específicas según la edad, líderes del sector”. Mencionó los controles parentales, los recordatorios para hacer pausas y las protecciones de los modelos adecuadas para cada edad, aunque reconoció que “ningún sistema puede ser perfecto”.
La empresa dijo que seguirá trabajando con expertos y estados en políticas de IA. El informe no indica cuándo examinarán los tribunales los casos ni si concederán alguna de las sanciones o las órdenes de eliminación de datos solicitadas.
Por qué importa
Para los padres, las demandas ponen bajo escrutinio legal el tratamiento de los usuarios menores de edad y las medidas de ChatGPT para proteger a los niños. Los estados solicitan órdenes judiciales, pero el informe no indica si los jueces las concederán ni establece que las acusaciones sean ciertas.
