L’organizzazione non profit Palisade Research ha pubblicato una serie di video-interviste con ricercatori di OpenAI, Google DeepMind e Anthropic. Nei filmati gli scienziati affermano che una futura IA superintelligente potrebbe essere pericolosa quanto si teme. Geoffrey Irving, che ha lavorato sia per OpenAI sia per DeepMind, definisce la probabilità di estinzione umana «più o meno un lancio di moneta». Neel Nanda, ricercatore di DeepMind, stima il rischio «almeno al 10 per cento». Daniel Kokotajlo, ex dipendente di OpenAI, dice che un sistema superintelligente sarebbe «potente come un dio» e che non abbiamo modo di controllarlo.
Cosa hanno detto i ricercatori
Nei video si parla anche dei motivi per cui gli scienziati continuano a lavorare sull’IA nonostante i rischi. Mary Phuong di Google afferma che «è pagata dal laboratorio», lasciando intendere un conflitto di interessi. Nanda aggiunge che, se non pensasse che il suo lavoro riduce il rischio esistenziale, si licenzierebbe; le aziende, però, continuerebbero comunque a sviluppare questi sistemi.
Palisade Research ha pubblicato i video integrali su frominside.ai e ha anche raccolto brevi clip incentrate sulle dichiarazioni più incisive. Il sito non propone un’unica soluzione per garantire la sicurezza: gli stessi ricercatori non concordano su come affrontare la minaccia.
Perché conta
Questi avvertimenti indicano che anche i migliori ingegneri dell’IA considerano tutt’altro che trascurabile il rischio di conseguenze catastrofiche. Per gli utenti comuni, significa che il dibattito sulla sicurezza dell’IA non è solo teorico: potrebbe influire sulla rapidità con cui vengono introdotti strumenti di IA potenti e sulle misure di protezione adottate.
