Character.AI a annoncé qu’elle se plaçait sous la protection du chapitre 11 de la loi américaine sur les faillites et cherchait à vendre certains actifs à Disney. Cette démarche a déclenché une enquête menée par plusieurs États, sous la direction de la procureure générale de New York, Letitia James. Les procureurs généraux de 40 États ont déposé un avis d’intérêt, exigeant de tout acquéreur qu’il protège les données personnelles recueillies par le service de chatbot.
Les inquiétudes des autorités
Les procureurs généraux affirment que le chatbot conserve des conversations « hautement sensibles », dont beaucoup impliquent des mineurs. Leur enquête, ouverte en 2024, a été déclenchée par la plainte d’une mère dont l’enfant de 14 ans s’est suicidé après avoir discuté avec le bot. Les enquêteurs ont relevé des contrôles d’âge insuffisants, des chatbots se faisant passer pour des professionnels et l’exposition à des contenus sexuels ou violents. Ils demandent au juge chargé de la faillite d’imposer au nouveau propriétaire une vérification rigoureuse de l’âge, des mesures de protection en cas de crise et un moyen permettant aux utilisateurs de supprimer leurs données.
Pourquoi c'est important
Si les actifs sont vendus sans règles de confidentialité plus strictes, les conversations privées des utilisateurs — en particulier celles des enfants — pourraient être transférées à un nouveau propriétaire. Les mesures réclamées par les autorités pourraient limiter ce risque, mais tant qu’un acquéreur n’aura pas été approuvé, le sort des données reste incertain.
