La Florida chiede al tribunale di fermare il lavoro di OpenAI sull’IA di frontiera

La Florida chiede a un tribunale di mettere un freno allo sviluppo di modelli avanzati di IA da parte di OpenAI. In una nuova istanza, lo Stato avverte che un agente di IA potrebbe causare gravi danni, anche interrompendo l’erogazione dell’acqua o la rete elettrica. «È solo per grazia dell’Onnipotente» che un simile incidente non si è ancora verificato, sostiene lo Stato.

L’istanza chiede un provvedimento ingiuntivo, cioè un ordine del tribunale che impone a una parte di fare o smettere di fare qualcosa. Si basa sulla causa intentata dalla Florida a giugno. Il tribunale non ha accolto la richiesta e OpenAI non aveva risposto alla richiesta di commento di Ars Technica.

La Florida cita anche rischi quotidiani

Le argomentazioni dello Stato riprendono anche preoccupazioni meno eclatanti dei guasti catastrofici dell’IA. Secondo la Florida, le aziende potrebbero indurre le persone in errore descrivendo l’IA come «sicura, precisa o affidabile». Lo Stato esprime inoltre preoccupazione per l’uso, da parte dei minori, di modelli che possono incoraggiare sessioni prolungate. La Florida contesta anche il fatto che i modelli concludano le risposte con domande suggestive, invitando gli utenti a continuare a chattare.

L’istanza insiste in particolare sulla possibilità che un sistema di IA agisca in modo dannoso perché ha frainteso i propri obiettivi. L’articolo osserva però che questa enfasi potrebbe distogliere l’attenzione da un rischio più immediato: persone che usano deliberatamente gli strumenti di IA per causare danni o cercano di aggirarne le protezioni di sicurezza.

Un’ordinanza del tribunale avrebbe dei limiti

Anche se il tribunale ordinasse a OpenAI di smettere di sviluppare nuovi modelli, ciò non fermerebbe il lavoro delle aziende concorrenti né ritirerebbe i modelli già disponibili al pubblico. L’istanza mette inoltre in luce un cambiamento nel dibattito: le preoccupazioni per i rischi estremi dell’IA, un tempo sollevate soprattutto dai ricercatori nel campo della sicurezza, compaiono ora anche nelle argomentazioni legali dei governi.