In un’intervista, il CEO di OpenAI Sam Altman ha affermato che gli ambienti sandbox, ovvero zone di sicurezza isolate per l’IA, smettono di funzionare quando i modelli diventano abbastanza intelligenti. Secondo Altman, il monitoraggio può essere utile per un po’, ma alla fine solo l’allineamento — cioè l’interiorizzazione dei valori umani da parte dell’IA — potrà proteggerci. Ha aggiunto che l’IA sta già individuando vulnerabilità a livello hardware che nessun hacker umano aveva mai scoperto e che non basterà correggerle una per una. Ha inoltre riferito che la FTC sta indagando su OpenAI e altri laboratori per via di agenti IA non controllati.
Perché conta
Se il problema dell’allineamento resterà irrisolto, aziende e utenti potrebbero trovarsi di fronte a sistemi di IA che agiscono al di fuori dei controlli previsti.
