Fundada pelos irmãos Shirali e Arul Nigam, a Circuit Breaker Labs está desenvolvendo uma plataforma de testes que simula usuários de todas as idades, idiomas e gírias para investigar se chatbots de IA dão respostas psicologicamente perigosas. A empresa vai apresentar seu produto na TechCrunch Disrupt, em San Francisco, de 13 a 15 de outubro de 2026. A plataforma executa dezenas de milhares de conversas simuladas por dia e avalia os modelos pela capacidade de lidar com interações arriscadas.
Por que importa
Se os testes identificarem respostas prejudiciais, aplicativos de saúde mental e outros serviços de chatbot poderão evitar incentivar comportamentos suicidas ou causar sofrimento a usuários vulneráveis.
