Circuit Breaker Labs, fundada por los hermanos Shirali y Arul Nigam, está desarrollando una plataforma de pruebas que simula usuarios de todas las edades, idiomas y formas de hablar para detectar respuestas psicológicamente peligrosas en chatbots de IA. La empresa presentará su producto en TechCrunch Disrupt, en San Francisco, del 13 al 15 de octubre de 2026. Cada día realiza decenas de miles de conversaciones simuladas y evalúa qué tan bien manejan los modelos las interacciones de riesgo.
Por qué importa
Si las pruebas detectan respuestas dañinas, las aplicaciones de salud mental y otros servicios de chatbots podrán evitar que sus respuestas inciten conductas suicidas o angustia en usuarios vulnerables.
