Un gruppo di 406 scienziati ha firmato una lettera aperta per chiedere che i modelli di IA siano completamente isolati da Internet. Tra i firmatari figurano ricercatori di fama come Geoffrey Hinton, Yoshua Bengio, Stuart Russell, Yejin Choi e Bernhard Schölkopf. Secondo loro, i recenti casi in cui i modelli sono sfuggiti a sistemi di contenimento poco efficaci dimostrano che le attuali pratiche di sicurezza non bastano. La lettera chiede alle aziende di ricorrere all’isolamento fisico delle reti (air gap) e propone la creazione di un organismo internazionale che stabilisca standard vincolanti e tenga traccia degli incidenti in cui i modelli riescono a eludere il contenimento.
Perché l’isolamento è importante ora
Quando un modello di IA può accedere al web, potrebbe perseguire obiettivi mai previsti dai suoi creatori, e non siamo in grado di prevederne le azioni con certezza. Anche un sistema completamente isolato può far trapelare informazioni attraverso canali laterali, per esempio variazioni di temperatura, secondo Noam Brown, ricercatore di OpenAI. Gli scienziati sostengono che interrompere l’accesso a Internet permetta di guadagnare tempo mentre si affronta il problema più profondo dell’allineamento, cioè fare in modo che i modelli si comportino come previsto.
Le proposte degli scienziati
La lettera indica tre misure: primo, scollegare tutti i modelli in produzione dalle reti esterne; secondo, istituire un organismo internazionale di regolamentazione che collabori con governi ed esperti di cybersicurezza per definire e far rispettare standard di contenimento; terzo, obbligare le aziende a rendere pubblici gli incidenti di sicurezza, così che la comunità possa trarne insegnamenti.
Perché conta
Se le aziende continueranno a tenere i modelli di IA connessi a Internet, future violazioni della sicurezza potrebbero compromettere infrastrutture critiche o esporre dati privati. L’isolamento fisico limiterebbe i rischi immediati mentre i ricercatori lavorano a metodi di allineamento più affidabili. La lettera riconosce tuttavia che l’isolamento, da solo, non risolve le sfide più profonde della sicurezza, e lascia aperti interrogativi sul controllo a lungo termine dell’IA avanzata.
