# Circuit Breaker Labs آزمایش ایمنی چت‌بات‌های سلامت روان را آغاز کرد

> این استارتاپ در رویداد TechCrunch Disrupt در سان‌فرانسیسکو، شبیه‌سازی‌های چت‌باتیِ «آدمک آزمایش تصادف» را نمایش می‌دهد تا پاسخ‌های آسیب‌زای هوش مصنوعی را پیش از رسیدن به کاربران شناسایی کند.

Oossa · 2026-10-02 · https://oossa.com/fa/circuit-breaker-labs-launches-ai-safety-testing-for-mental-health-chatbots

Circuit Breaker Labs که خواهر و برادر، شیرالی و آرول نیگام، آن را تأسیس کرده‌اند، پلتفرمی برای آزمایش می‌سازد که کاربران در سنین مختلف و با زبان‌ها و اصطلاحات عامیانه گوناگون را شبیه‌سازی می‌کند تا پاسخ‌های روان‌شناختی خطرناک چت‌بات‌های هوش مصنوعی را بسنجد. این شرکت از ۱۳ تا ۱۵ اکتبر ۲۰۲۶ محصولش را در رویداد TechCrunch Disrupt در سان‌فرانسیسکو معرفی می‌کند. این پلتفرم هر روز ده‌ها هزار گفت‌وگوی شبیه‌سازی‌شده اجرا می‌کند و عملکرد مدل‌ها را در مواجهه با تعاملات پرخطر ارزیابی می‌کند.

## حقایق

- تاریخ برگزاری TechCrunch Disrupt: ۱۳ تا ۱۵ اکتبر ۲۰۲۶
- Circuit Breaker Labs پنج کارمند دارد

## چرا مهم است

اگر این آزمایش‌ها پاسخ‌های آسیب‌زا را شناسایی کنند، اپلیکیشن‌های سلامت روان و دیگر سرویس‌های چت‌باتی می‌توانند از سوق‌دادن کاربران آسیب‌پذیر به رفتارهای خودکشی‌گرایانه یا پریشان‌کننده جلوگیری کنند.

## منابع و ارجاع‌ها

1. [Circuit Breaker Labs hopes to make AI safer for your kids (and you)](https://techcrunch.com/2026/10/02/circuit-breaker-labs-hopes-to-make-ai-safer-for-your-kids-and-you/) – TechCrunch, 2026-10-02

آخرین به‌روزرسانی: 2026-10-02