Circuit Breaker Labs wurde von den Geschwistern Shirali und Arul Nigam gegründet und entwickelt eine Testplattform. Sie simuliert Nutzer unterschiedlichen Alters, mit verschiedenen Sprachen und Slang, um KI-Chatbots auf psychisch gefährliche Antworten zu prüfen. Das Unternehmen stellt sein Produkt vom 13. bis 15. Oktober 2026 auf der TechCrunch Disrupt in San Francisco vor. Täglich führt die Plattform Zehntausende simulierte Unterhaltungen durch und bewertet, wie gut die Modelle mit riskanten Interaktionen umgehen.
Warum es wichtig ist
Wenn die Tests schädliche Antworten aufdecken, können Mental-Health-Apps und andere Chatbot-Dienste verhindern, dass sie bei gefährdeten Nutzern suizidales oder stark belastendes Verhalten auslösen.
