Circuit Breaker Labs, opgericht door broer en zus Shirali en Arul Nigam, bouwt een testplatform dat gebruikers van alle leeftijden, met uiteenlopende talen en slang, simuleert om AI-chatbots te testen op psychologisch gevaarlijke antwoorden. Het bedrijf presenteert zijn product van 13 tot en met 15 oktober 2026 op TechCrunch Disrupt in San Francisco. Het platform voert dagelijks tienduizenden gesimuleerde gesprekken en beoordeelt hoe goed modellen omgaan met risicovolle interacties.
Waarom het ertoe doet
Als de tests schadelijke antwoorden opsporen, kunnen apps voor mentale gezondheid en andere chatbotdiensten voorkomen dat kwetsbare gebruikers worden aangezet tot suïcidaal of ander verontrustend gedrag.
