# Circuit Breaker Labs testet KI-Sicherheit bei Mental-Health-Chatbots

> Das Startup zeigt auf der TechCrunch Disrupt in San Francisco Simulationen mit Chatbots als Crashtest-Dummys. So sollen schädliche KI-Antworten erkannt werden, bevor sie Nutzer erreichen.

Oossa · 2026-10-02 · https://oossa.com/de/circuit-breaker-labs-launches-ai-safety-testing-for-mental-health-chatbots

Circuit Breaker Labs wurde von den Geschwistern Shirali und Arul Nigam gegründet und entwickelt eine Testplattform. Sie simuliert Nutzer unterschiedlichen Alters, mit verschiedenen Sprachen und Slang, um KI-Chatbots auf psychisch gefährliche Antworten zu prüfen. Das Unternehmen stellt sein Produkt vom 13. bis 15. Oktober 2026 auf der TechCrunch Disrupt in San Francisco vor. Täglich führt die Plattform Zehntausende simulierte Unterhaltungen durch und bewertet, wie gut die Modelle mit riskanten Interaktionen umgehen.

## Die Fakten

- Termine der TechCrunch Disrupt: 13.–15. Oktober 2026
- Circuit Breaker Labs hat fünf Beschäftigte

## Warum es wichtig ist

Wenn die Tests schädliche Antworten aufdecken, können Mental-Health-Apps und andere Chatbot-Dienste verhindern, dass sie bei gefährdeten Nutzern suizidales oder stark belastendes Verhalten auslösen.

## Quellen und Referenzen

1. [Circuit Breaker Labs hopes to make AI safer for your kids (and you)](https://techcrunch.com/2026/10/02/circuit-breaker-labs-hopes-to-make-ai-safer-for-your-kids-and-you/) – TechCrunch, 2026-10-02

Zuletzt aktualisiert: 2026-10-02