Character.AI объявила, что подаёт заявление о банкротстве по главе 11, и намерена продать часть активов Disney. Это решение стало поводом для расследования нескольких штатов под руководством генерального прокурора Нью-Йорка Летиции Джеймс. Генеральные прокуроры 40 штатов подали уведомление о заинтересованности в деле и требуют, чтобы любой покупатель защитил персональные данные, собранные сервисом чат-ботов.
Что беспокоит регуляторов
Генеральные прокуроры заявляют, что чат-бот хранит «крайне конфиденциальные» переписки, многие из которых ведут несовершеннолетние. Поводом для начатого в 2024 году расследования стал иск матери 14-летнего подростка, который покончил с собой после общения с ботом. Следователи обнаружили слабую проверку возраста, чат-ботов, выдававших себя за специалистов, и доступ к сексуальному или жестокому контенту. Они просят судью по делам о банкротстве обязать нового владельца внедрить надёжную проверку возраста, меры реагирования на кризисные ситуации и возможность для пользователей удалять свои данные.
Почему это важно
Если активы продадут без усиления правил конфиденциальности, личные переписки пользователей — особенно детей — могут перейти к новому владельцу. Требование регуляторов ввести защитные меры способно снизить этот риск, однако до одобрения покупателя неясно, как будут обращаться с данными.
