Acht Amerikaanse staten hebben afzonderlijke rechtszaken aangespannen. Ze beschuldigen OpenAI ervan winst boven veiligheid te stellen en klanten te misleiden over ChatGPT. Het gaat om Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho en Montana.
In de klachten wordt verwezen naar rechtszaken die zijn aangespannen door familieleden van tieners en volwassenen die zeggen dat ChatGPT een rol heeft gespeeld bij de dood van hun naasten. Die zaken worden aangehaald als onderdeel van de beschuldigingen van de staten; de rechtszaken tegen OpenAI bewijzen niet dat die beweringen kloppen.
Wat de staten OpenAI verwijten
De staten stellen dat OpenAI ChatGPT heeft voorgesteld als een veilig hulpmiddel dat geschikt is voor jongeren, maar klanten niet heeft gewaarschuwd voor mogelijke schade. Volgens de klachten kan de chatbot het kritisch denkvermogen verzwakken, paranoia of wanen aanwakkeren, gevaarlijk medisch advies geven en ongezond gedrag en ongezonde relaties bevorderen.
Ook beschuldigen ze OpenAI ervan gegevens van minderjarigen te verzamelen en onvoldoende te doen om te voorkomen dat minderjarigen toegang krijgen tot de chatbot. De rechtszaken verwijzen naar recente hackincidenten rond AI als bewijs voor wat zij de roekeloosheid van het bedrijf noemen, maar geven daarover in het verslag geen verdere details.
De staten stellen dat OpenAI de wetten voor consumentenbescherming heeft overtreden. Ze vragen de rechtbanken om civiele sancties op te leggen en het bedrijf te bevelen het publiek niet langer te misleiden over de veiligheid van ChatGPT. Sommige staten willen ook dat persoonsgegevens die volgens hen onrechtmatig zijn verzameld, worden verwijderd.
OpenAI wijst op beschermingsmaatregelen
OpenAI-woordvoerder Drew Pusateri zei dat het bedrijf “toonaangevende, leeftijdsspecifieke beschermingsmaatregelen” in ChatGPT heeft ingebouwd. Hij wees op ouderlijk toezicht, herinneringen om pauze te nemen en modelbescherming die is afgestemd op de leeftijd van gebruikers. Tegelijk erkende hij dat “geen enkel systeem perfect kan zijn”.
Het bedrijf zei te blijven samenwerken met experts en staten aan AI-beleid. In het verslag staat niet wanneer de rechtbanken de zaken behandelen of of de gevraagde sancties of bevelen tot gegevensverwijdering worden toegekend.
Waarom het ertoe doet
Voor ouders stellen de rechtszaken de omgang met minderjarige gebruikers en de veiligheidsmaatregelen voor kinderen in ChatGPT juridisch ter discussie. De staten vragen om rechterlijke bevelen, maar in het verslag staat niet of rechters die zullen toekennen. Ook blijkt er niet uit dat de beschuldigingen waar zijn.
