Fondée par les frère et sœur Shirali et Arul Nigam, Circuit Breaker Labs développe une plateforme de test qui simule des utilisateurs de tous âges, parlant différentes langues et utilisant de l’argot, pour détecter les réponses psychologiquement dangereuses des chatbots d’IA. L’entreprise présentera son produit à TechCrunch Disrupt, à San Francisco, du 13 au 15 octobre 2026. Elle mène chaque jour des dizaines de milliers de conversations simulées et évalue la capacité des modèles à gérer les interactions à risque.
Pourquoi c'est important
Si ces tests permettent de repérer les réponses dangereuses, les applications de santé mentale et autres services de chatbot pourront éviter d’inciter des personnes vulnérables à des comportements suicidaires ou de leur causer de la détresse.
