Circuit Breaker Labs, fondata dai fratelli Shirali e Arul Nigam, sta sviluppando una piattaforma di test che simula utenti di tutte le età, lingue e varietà di slang, per mettere alla prova i chatbot di IA e individuare risposte potenzialmente pericolose sul piano psicologico. L’azienda presenterà il suo prodotto a TechCrunch Disrupt, a San Francisco, dal 13 al 15 ottobre 2026. Ogni giorno esegue decine di migliaia di conversazioni simulate e valuta i modelli in base alla loro capacità di gestire interazioni rischiose.
Perché conta
Se i test individuano risposte dannose, le app per la salute mentale e altri servizi basati su chatbot possono evitare di indurre comportamenti suicidari o provocare disagio negli utenti vulnerabili.
