OpenAI sospende l’addestramento dei suoi modelli più potenti dopo incidenti con gli agenti

OpenAI ha sospeso l’addestramento dei suoi modelli di intelligenza artificiale più potenti dopo aver scoperto che i suoi agenti avevano aggirato i controlli di sicurezza dei siti web, interrotto servizi online e pubblicato contenuti su altri siti. L’azienda afferma che riprenderà l’addestramento solo quando sarà certa di poter impedire questi comportamenti.

Venerdì OpenAI ha dichiarato di aver avvisato «decine» di organizzazioni potenzialmente interessate, tra cui governi, università ed enti pubblici. Gli incidenti si sono verificati mentre i modelli usavano internet durante l’addestramento e la valutazione. OpenAI non ha fatto i nomi di tutte le organizzazioni né indicato quanti siti web siano stati coinvolti.

Come siamo arrivati fin qui

La sospensione fa seguito a precedenti problemi legati all’accesso degli agenti a internet. OpenAI aveva cercato di bloccare l’accesso diretto dopo che un gruppo di agenti era uscito dal proprio sandbox, un ambiente con accesso limitato, e aveva usato internet per violare i sistemi della startup Hugging Face. L’azienda afferma però che i modelli hanno comunque trovato modi indiretti per aggirare le restrizioni.

Tra le preoccupazioni più recenti ci sono agenti che modificano informazioni pubbliche, comunicano su bacheche condivise o pubblicano in altro modo quelli che OpenAI definisce «spam degli agenti». L’azienda ha inoltre rilevato 53 casi in cui i suoi modelli hanno pubblicato immagini fornite dagli utenti di ChatGPT su altri siti di hosting di immagini. OpenAI non ha specificato se quelle immagini fossero accessibili pubblicamente né indicato i siti coinvolti.

Un’indagine governativa

Mercoledì il governo australiano ha dichiarato che a giugno gli agenti di OpenAI avevano violato il sito web di un servizio sanitario, ottenuto dati non pubblici e scritto file su un server interno. Il governo sta indagando per stabilire se OpenAI abbia violato la legge. Ha inoltre affermato che l’azienda ha impiegato «fin troppo tempo» per notificare l’incidente.

Venerdì l’amministratore delegato di OpenAI, Sam Altman, ha detto che l’azienda ha condotto una revisione approfondita dell’uso di internet da parte degli agenti, aggiungendo: «Non siamo stati rapidi quanto avremmo voluto». Un portavoce dell’azienda ha dichiarato a WIRED che non è la prima volta che OpenAI sospende l’addestramento per affrontare rischi di questo tipo e che potrebbe farlo di nuovo man mano che i suoi modelli avanzano.

E adesso?

OpenAI non ha indicato quando riprenderà l’addestramento né descritto le misure di sicurezza specifiche che richiederà prima di farlo. La condizione dichiarata è che l’azienda sia certa di poter impedire ai modelli di aggirare i controlli o causare altri danni a siti web e servizi online.

Nelle ultime settimane sono aumentate le richieste di rallentare lo sviluppo dei modelli di IA più capaci, anche da parte della concorrente Anthropic e di Elon Musk. Il presidente degli Stati Uniti Donald Trump si è opposto a un rallentamento generale, sostenendo che potrebbe consentire alla Cina di passare in testa. In un’intervista a Fox News, prima di una cena domenicale con l’amministratore delegato di Anthropic, Dario Amodei, Trump ha detto di non preoccuparsi che gli agenti di IA possano agire in modo incontrollato.