Circuit Breaker Labs, som grundades av syskonen Shirali och Arul Nigam, bygger en testplattform som simulerar användare i alla åldrar, med olika språk och slang, för att undersöka om AI-chattbotar ger psykologiskt farliga svar. Företaget ska presentera sin produkt på TechCrunch Disrupt i San Francisco den 13–15 oktober 2026. Plattformen kör tiotusentals simulerade samtal varje dag och poängsätter modellerna utifrån hur väl de hanterar riskfyllda interaktioner.
Varför det spelar roll
Om testerna upptäcker skadliga svar kan appar för psykisk hälsa och andra chattbotstjänster undvika att framkalla självmordstankar eller psykiskt påfrestande beteenden hos utsatta användare.
