Kardeşler Shirali ve Arul Nigam’ın kurduğu Circuit Breaker Labs, her yaştan, farklı diller konuşan ve çeşitli argo ifadeler kullanan kullanıcıları taklit ederek yapay zekâ sohbet botlarını psikolojik açıdan tehlikeli yanıtlar vermeye zorlayan bir test platformu geliştiriyor. Şirket, ürününü 13-15 Ekim 2026 tarihlerinde San Francisco’da düzenlenecek TechCrunch Disrupt’ta tanıtacak. Platform her gün on binlerce simüle edilmiş sohbet yürütüyor ve modellerin riskli etkileşimleri ne kadar iyi yönettiğini puanlıyor.
Neden önemli
Testler zararlı yanıtları tespit edebilirse ruh sağlığı uygulamaları ve diğer sohbet botu hizmetleri, hassas durumdaki kullanıcıları intihara yönelten ya da sıkıntı veren davranışlara teşvik etmekten kaçınabilir.
