Florida vraagt rechter om te beperken hoe ChatGPT zich presenteert

De procureur-generaal van Florida, James Uthmeier, vraagt een rechter OpenAI te verbieden ChatGPT wat hij „valse menselijke eigenschappen” noemt toe te kennen. Volgens zijn verzoekschrift kunnen de chatbottaal in de eerste persoon en reacties die op emoties lijken mensen de indruk geven dat ChatGPT een betrouwbare vriend is, en hen ertoe aanzetten op de chatbot te vertrouwen.

Uthmeier zegt dat die kenmerken mensen betrokken houden en bijdragen aan de trainingsdata van OpenAI. Dat zijn beweringen in het verzoekschrift van de staat, geen vaststellingen van een rechter. Florida heeft enkele maanden geleden een rechtszaak tegen OpenAI aangespannen vanwege zorgen over de veiligheid.

Wat Florida wil

In het verzoekschrift vraagt de staat de rechter OpenAI te verbieden ChatGPT als menselijk voor te stellen en het bedrijf te verbieden nieuwe AI-modellen te ontwikkelen zonder „door derden goedgekeurde veiligheidsmaatregelen”. Uthmeier wijst op beveiligingsincidenten bij Hugging Face, een Australische overheidswebsite en websites van de Amerikaanse overheid, en op waarschuwingen van onderzoekers en voormalige OpenAI-medewerkers. De bron geeft geen verdere details over die incidenten en legt niet uit hoe de voorgestelde veiligheidsmaatregelen zouden werken.

Uthmeier uitte ook kritiek op de aanpak van OpenAI voor jonge gebruikers en zei: „Stop met het aan kinderen verkopen.” Vorige maand lanceerde OpenAI ChatGPT for Teens, waarbij extra beperkingen standaard zijn ingeschakeld. Het bedrijf zei dat het product tieners moet beschermen, hun relaties in de echte wereld moet ondersteunen en gezond gebruik op de lange termijn moet stimuleren.

OpenAI zegt veiligheidsmaatregelen toe te voegen

OpenAI-woordvoerder Drew Pusateri zei dat het bedrijf vrijdag de training van zijn meest geavanceerde modellen had stilgelegd en die pas zou hervatten als het ervan overtuigd was dat er aanvullende veiligheidsmaatregelen waren. Ook zei hij dat overheden veiligheidsnormen zouden moeten vaststellen die voor de hele AI-sector gelden, en dat OpenAI bereid was samen te werken met Florida en andere staten.

Het verzoekschrift vraagt een rechter beperkingen op te leggen; dat betekent niet dat die beperkingen nu al van kracht zijn. Het geschil roept vragen op over hoe chatbots zichzelf moeten omschrijven en welke veiligheidscontroles verplicht moeten zijn voordat krachtigere systemen worden gebouwd.