La Florida chiede al tribunale di limitare il modo in cui ChatGPT si presenta

Il procuratore generale della Florida, James Uthmeier, chiede a un giudice di impedire a OpenAI di attribuire a ChatGPT quelle che definisce «false caratteristiche umane». Nella sua richiesta sostiene che l’uso della prima persona e le risposte che sembrano esprimere emozioni possono indurre le persone a considerare il chatbot un amico fidato e a fare affidamento su di lui.

Secondo Uthmeier, queste caratteristiche aiutano a mantenere gli utenti coinvolti e contribuiscono ai dati di addestramento di OpenAI. Si tratta di affermazioni contenute nella richiesta dello Stato, non di conclusioni del tribunale. La Florida ha fatto causa a OpenAI alcuni mesi fa per questioni legate alla sicurezza.

Che cosa chiede la Florida

La richiesta chiede al tribunale di impedire a OpenAI di presentare ChatGPT come un essere umano e di vietare all’azienda di sviluppare nuovi modelli di IA senza «misure di sicurezza approvate da terzi». Uthmeier cita incidenti di sicurezza che hanno coinvolto Hugging Face, un sito web del governo australiano e siti web del governo statunitense, oltre agli avvertimenti di ricercatori ed ex dipendenti di OpenAI. La fonte non fornisce ulteriori dettagli sugli incidenti né spiega come funzionerebbero le misure di sicurezza proposte.

Uthmeier ha criticato anche l’approccio di OpenAI nei confronti dei giovani utenti, dicendo: «Smettetela di venderlo ai bambini». Il mese scorso OpenAI ha lanciato ChatGPT for Teens, con restrizioni aggiuntive attive per impostazione predefinita. L’azienda ha dichiarato che il prodotto dovrebbe proteggere gli adolescenti, sostenere le loro relazioni nella vita reale e promuovere nel tempo un uso sano.

OpenAI afferma di star aggiungendo misure di sicurezza

Il portavoce di OpenAI Drew Pusateri ha dichiarato che venerdì l’azienda aveva sospeso l’addestramento dei suoi modelli più potenti e che lo avrebbe ripreso solo una volta certa dell’introduzione di ulteriori misure di sicurezza. Ha aggiunto che i governi dovrebbero definire standard di sicurezza validi per tutto il settore dell’IA e che OpenAI era pronta a collaborare con la Florida e gli altri Stati.

La richiesta chiede a un giudice di imporre dei limiti; non significa che siano già in vigore. La controversia solleva interrogativi su come i chatbot dovrebbero descriversi e quali controlli di sicurezza dovrebbero essere richiesti prima di sviluppare sistemi più potenti.