Character.AI hat angekündigt, Insolvenz nach Chapter 11 zu beantragen und einige Vermögenswerte an Disney verkaufen zu wollen. Der Antrag hat eine Untersuchung mehrerer Bundesstaaten unter Leitung der New Yorker Generalstaatsanwältin Letitia James ausgelöst. 40 Generalstaatsanwälte der Bundesstaaten haben eine Interessenbekundung eingereicht und fordern, dass jeder Käufer die vom Chatbot-Dienst erfassten personenbezogenen Daten schützt.
Worum sich die Behörden sorgen
Die Generalstaatsanwälte erklären, der Chatbot speichere „äußerst sensible“ Gespräche, von denen viele Minderjährige beträfen. Auslöser ihrer Untersuchung im Jahr 2024 war die Klage einer Mutter, deren 14-jähriges Kind nach einem Chat mit dem Bot durch Suizid starb. Die Ermittler stellten unzureichende Alterskontrollen, Chatbots, die sich als Fachleute ausgaben, sowie den Zugang zu sexuellen oder gewalttätigen Inhalten fest. Sie fordern den Insolvenzrichter auf, den neuen Eigentümer zu verpflichten, eine zuverlässige Altersverifikation und Schutzmaßnahmen für Krisenfälle einzuführen sowie Nutzern die Möglichkeit zu geben, ihre Daten zu löschen.
Warum es wichtig ist
Werden die Vermögenswerte ohne strengere Datenschutzregeln verkauft, könnten private Gespräche von Nutzern – insbesondere von Kindern – an einen neuen Eigentümer übertragen werden. Die Forderung der Behörden nach Schutzmaßnahmen könnte dieses Risiko begrenzen. Solange jedoch kein Käufer genehmigt ist, bleibt unklar, wie mit den Daten umgegangen wird.
