Shirali और Arul Nigam भाई-बहनों द्वारा स्थापित Circuit Breaker Labs एक ऐसा टेस्टिंग प्लेटफॉर्म बना रहा है, जो हर उम्र, भाषा और बोलचाल की शैली के यूज़र्स का सिमुलेशन करके AI चैटबॉट के मनोवैज्ञानिक रूप से खतरनाक जवाबों की जांच करता है। कंपनी 13‑15 अक्टूबर, 2026 को सैन फ्रांसिस्को में TechCrunch Disrupt में अपना उत्पाद पेश करेगी। यह रोज़ाना हज़ारों सिमुलेटेड बातचीत चलाता है और जोखिमभरी बातचीत को संभालने की मॉडल की क्षमता को स्कोर देता है।
यह क्यों मायने रखता है
अगर जांच में नुकसानदेह जवाब पकड़ में आते हैं, तो मानसिक स्वास्थ्य ऐप और अन्य चैटबॉट सेवाएं संवेदनशील यूज़र्स को आत्महत्या या मानसिक परेशानी की ओर धकेलने वाले जवाब देने से बच सकती हैं।
