A Character.AI anunciou que entrou com pedido de recuperação judicial pelo Chapter 11 e pretende vender alguns ativos à Disney. O pedido deu início a uma investigação em vários estados, liderada pela procuradora-geral de Nova York, Letitia James. Procuradores-gerais de 40 estados protocolaram uma manifestação de interesse no caso, exigindo que qualquer comprador proteja os dados pessoais coletados pelo serviço de chatbot.
O que preocupa as autoridades
Os procuradores-gerais afirmam que o chatbot armazena conversas “altamente sensíveis”, muitas delas envolvendo menores de idade. A investigação, iniciada em 2024, foi motivada por uma ação judicial movida pela mãe de um adolescente de 14 anos que morreu por suicídio após conversar com o bot. Os investigadores constataram falhas na verificação de idade, chatbots que se passavam por profissionais e exposição a conteúdo sexual ou violento. Eles pedem que o juiz responsável pelo processo de falência exija que o novo proprietário implemente uma verificação de idade robusta, medidas de proteção para situações de crise e uma forma de os usuários excluírem seus dados.
Por que importa
Se os ativos forem vendidos sem regras de privacidade mais rigorosas, as conversas privadas dos usuários — sobretudo das crianças — poderão ser transferidas para um novo proprietário. A pressão das autoridades por medidas de proteção pode reduzir esse risco, mas, até que um comprador seja aprovado, não está claro como os dados serão tratados.
