تعمل Circuit Breaker Labs، التي أسسها الشقيقان شيرالي وأرول نيغام، على بناء منصة اختبار تحاكي مستخدمين من مختلف الأعمار واللغات، وتستخدم تعبيرات عامية متنوعة، لاختبار روبوتات الدردشة المدعومة بالذكاء الاصطناعي ورصد الردود التي قد تشكل خطرًا نفسيًا. وستعرض الشركة منتجها في TechCrunch Disrupt بسان فرانسيسكو من 13 إلى 15 أكتوبر 2026. وتجري المنصة عشرات الآلاف من المحادثات المحاكاة يوميًا، وتقيّم النماذج بحسب مدى نجاحها في التعامل مع التفاعلات المحفوفة بالمخاطر.
لماذا يهم
إذا نجحت الاختبارات في رصد الردود الضارة، فستتمكن تطبيقات الصحة النفسية وغيرها من خدمات روبوتات الدردشة من تجنب دفع المستخدمين الأكثر هشاشة إلى سلوك انتحاري أو إلى الشعور بالضيق.
