Circuit Breaker Labs که خواهر و برادر، شیرالی و آرول نیگام، آن را تأسیس کرده‌اند، پلتفرمی برای آزمایش می‌سازد که کاربران در سنین مختلف و با زبان‌ها و اصطلاحات عامیانه گوناگون را شبیه‌سازی می‌کند تا پاسخ‌های روان‌شناختی خطرناک چت‌بات‌های هوش مصنوعی را بسنجد. این شرکت از ۱۳ تا ۱۵ اکتبر ۲۰۲۶ محصولش را در رویداد TechCrunch Disrupt در سان‌فرانسیسکو معرفی می‌کند. این پلتفرم هر روز ده‌ها هزار گفت‌وگوی شبیه‌سازی‌شده اجرا می‌کند و عملکرد مدل‌ها را در مواجهه با تعاملات پرخطر ارزیابی می‌کند.
چرا مهم است
اگر این آزمایش‌ها پاسخ‌های آسیب‌زا را شناسایی کنند، اپلیکیشن‌های سلامت روان و دیگر سرویس‌های چت‌باتی می‌توانند از سوق‌دادن کاربران آسیب‌پذیر به رفتارهای خودکشی‌گرایانه یا پریشان‌کننده جلوگیری کنند.
