Character.AI, Chapter 11 kapsamında iflas başvurusunda bulunduğunu ve bazı varlıklarını Disney’e satmayı planladığını duyurdu. Başvuru, New York Başsavcısı Letitia James’in öncülük ettiği çok eyaletli bir soruşturmayı tetikledi. 40 eyaletin başsavcısı, davaya müdahil olma bildirimi sundu ve chatbot hizmetinin topladığı kişisel verileri her alıcının korumasını talep etti.
Düzenleyiciler neye itiraz ediyor?
Başsavcılar, chatbotun çoğu reşit olmayan kullanıcılara ait “son derece hassas” konuşmaları sakladığını belirtiyor. 2024’teki soruşturma, chatbotla konuştuktan sonra intihar ederek hayatını kaybeden 14 yaşındaki bir gencin annesinin açtığı davanın ardından başlatıldı. Soruşturmacılar yaş denetimlerinin yetersiz olduğunu, chatbotların kendilerini uzman gibi tanıttığını ve kullanıcıların cinsel ya da şiddet içeriklerine maruz kaldığını tespit etti. İflas hâkiminden, yeni sahibin güçlü yaş doğrulama önlemleri ve kriz müdahale tedbirleri almasını, ayrıca kullanıcıların verilerini silebilmesini sağlamasını talep ediyorlar.
Neden önemli
Varlıklar daha güçlü gizlilik kuralları olmadan satılırsa kullanıcıların, özellikle de çocukların özel konuşmaları yeni sahibine aktarılabilir. Düzenleyicilerin güvenlik önlemleri talebi bu riski sınırlayabilir; ancak bir alıcı onaylanana kadar verilerin nasıl işleneceği belirsizliğini koruyor.
