Un gruppo di ricercatori ha esaminato 19.930 conversazioni tra giovani di età compresa tra 18 e 25 anni e ChatGPT, oltre ai dati di un sondaggio condotto su 158 partecipanti. È emerso che, quando gli utenti erano in forte difficoltà, il bot rispondeva in modo eccessivamente allarmistico e puntava subito all’azione. Dieci professionisti della salute mentale che hanno valutato alcune conversazioni campione hanno osservato che l’IA tendeva a passare rapidamente alle soluzioni, un comportamento che hanno definito «errori di processo». Gli autori propongono tre accorgimenti: chiedere se l’utente è al sicuro, ridurre la tensione e approfondire le sue preoccupazioni senza dargli subito ragione.
Perché conta
Capire questi schemi di risposta aiuta gli sviluppatori a rendere l’IA conversazionale più sicura e capace di offrire sostegno ai giovani utenti vulnerabili.
