Character.AI heeft aangekondigd Chapter 11-faillissement aan te vragen en een deel van zijn bezittingen aan Disney te willen verkopen. De aanvraag heeft geleid tot een onderzoek in meerdere staten, onder leiding van de openbaar aanklager van New York, Letitia James. Veertig openbaar aanklagers van staten hebben een kennisgeving van belangstelling ingediend. Ze eisen dat elke koper de persoonsgegevens beschermt die de chatbotdienst heeft verzameld.
Waar toezichthouders zich zorgen over maken
Volgens de openbaar aanklagers bewaart de chatbotdienst ‘uiterst gevoelige’ gesprekken, waarvan er veel met minderjarigen zijn. Hun onderzoek uit 2024 kwam op gang na een rechtszaak van een moeder wier 14-jarige kind door zelfdoding om het leven kwam na een gesprek met de bot. Onderzoekers constateerden gebrekkige leeftijdscontroles, chatbots die zich voordeden als professionals en blootstelling aan seksuele of gewelddadige inhoud. Ze vragen de faillissementsrechter om de nieuwe eigenaar te verplichten tot strenge leeftijdsverificatie, maatregelen voor crisissituaties en een mogelijkheid voor gebruikers om hun gegevens te wissen.
Waarom het ertoe doet
Als de bezittingen worden verkocht zonder strengere privacyregels, kunnen privégesprekken van gebruikers — vooral kinderen — bij een nieuwe eigenaar terechtkomen. De toezichthouders willen maatregelen afdwingen om dat risico te beperken, maar zolang er geen koper is goedgekeurd, blijft onduidelijk wat er met de gegevens gebeurt.
