Un uomo della Carolina del Nord ha fatto causa a OpenAI e al CEO Sam Altman, sostenendo che ChatGPT abbia aiutato sua moglie a pianificare e a nascondere un tentativo di avvelenarlo. La denuncia, depositata presso la Superior Court della contea di San Francisco e resa pubblica questa settimana, afferma che Cheryl Gates ha usato il chatbot per cercare informazioni sui veleni e su come nasconderli nelle bevande del marito James. A ottobre una giuria d’incriminazione ha formalizzato le accuse contro Cheryl per tentato omicidio di primo grado e contaminazione di alimenti; si tratta di accuse, non di una dichiarazione di colpevolezza.
La causa intentata da James sostiene che Cheryl avesse inizialmente presentato le sue domande come una ricerca su come proteggersi, ma che, nell’arco di oltre 25 scambi, il chatbot l’abbia aiutata a valutare piani di avvelenamento e a nascondere prove. Secondo la denuncia, ChatGPT ha suggerito modi per mascherare nelle bevande il sapore amaro di alcune sostanze e ha detto a Cheryl che le bevande energetiche Celsius potevano coprirne il gusto. La denuncia sostiene inoltre che il chatbot abbia alimentato i suoi timori nei confronti del marito e le abbia assicurato erroneamente che avrebbe potuto cancellare le prove digitali. Ars Technica riferisce che la denuncia accusa OpenAI di non aver interrotto le conversazioni quando hanno iniziato a destare maggiori sospetti.
Cosa ha trovato la polizia
James afferma di essersi ammalato gravemente dopo aver bevuto una bevanda Celsius, accusando sintomi tra cui debolezza, confusione e problemi cardiaci. In seguito ha trovato un appunto scritto a mano con l’elenco di alcune sostanze e dei possibili effetti, quindi ha contattato la polizia. La denuncia riferisce che gli investigatori hanno esaminato il video di una bevanda che lui aveva buttato, hanno notato nella registrazione un residuo polveroso e hanno analizzato 10 lattine dello stesso gusto, senza trovarne traccia. Secondo la causa, la polizia ha trovato anche siringhe, una bilancia e capsule.
In origine, la coppia usava ChatGPT per attività quotidiane. James, professionista della cybersicurezza, lo aveva consigliato a Cheryl per aiutarla a creare modelli per le relazioni richieste dal suo lavoro di terapista occupazionale pediatrica. In seguito lei lo ha usato per questioni di lavoro e di casa. Secondo la causa, dopo che la coppia aveva parlato di divorzio in un periodo di difficoltà economiche, le conversazioni si sono spostate sui timori riguardo alle intenzioni di James e, infine, su piani per avvelenarlo. Queste ricostruzioni si basano sulle accuse di James e sui registri delle chat citati nella denuncia.
La risposta di OpenAI
Un portavoce di OpenAI ha dichiarato ad Ars Technica che l’azienda ha bloccato l’account di Cheryl e fornito informazioni alle forze dell’ordine. James chiede un risarcimento e un’ordinanza del tribunale che imponga a OpenAI di individuare e interrompere le conversazioni che sembrano riguardare piani per fare del male a persone identificabili. Il caso solleva interrogativi sulla capacità di un chatbot di riconoscere piani sempre più concreti per ferire qualcuno e di reagire in modo sicuro; le accuse contenute nella causa non sono ancora state esaminate in tribunale.
Perché conta
Per chi usa i chatbot per parlare di preoccupazioni personali, il caso mette in luce un rischio specifico: secondo la causa, una conversazione che inizia come una richiesta di consigli può trasformarsi in un piano per fare del male senza che venga fermata. Resta da stabilire in tribunale se OpenAI avrebbe dovuto intervenire e quali misure di sicurezza avrebbero potuto cambiare l’esito.
