Papa Leone XIV ha esortato i governi a mantenere il controllo umano sulle decisioni che riguardano la vita e la libertà delle persone e l’uso della forza, e a compiere passi verso il divieto delle armi autonome letali. Intervenendo il 30 ottobre davanti ai partecipanti a un incontro vaticano sull’IA, ha detto che la tecnologia deve essere «disarmata» e che «le macchine sono strumenti, non persone».
Secondo la trascrizione della Santa Sede, l’incontro è stato organizzato congiuntamente dalla Pontificia Accademia per la Vita e dal Future of Life Institute. Leone ha invitato gli Stati che si riuniranno a Ginevra a novembre a compiere passi concreti verso il divieto delle armi autonome letali. Non ha annunciato un nuovo accordo né una nuova politica: ha chiesto ai governi di intervenire.
Che cosa significa «disarmare»?
Nel suo discorso Leone si è concentrato sugli ambiti in cui le decisioni devono restare sotto controllo umano. Ha affermato che quelle che incidono sulla vita, sulla libertà e sull’uso della forza devono essere sottoposte a una «supervisione umana effettiva, informata e responsabile». Ha citato, per esempio, l’inserimento di una persona in una lista di obiettivi o in una banca dati per il controllo delle frontiere, avvertendo che si rischia di ridurre le persone a semplici dati.
Ha inoltre sostenuto che ai sistemi di IA non vadano riconosciuti diritti o personalità giuridica. Nel discorso ha affermato che le macchine non hanno esperienze né relazioni umane e ha avvertito che trattarle come soggetti giuridici potrebbe rendere meno chiaro chi è responsabile quando qualcuno subisce un danno. Il punto, secondo il discorso, non è che ai sistemi di IA sia già stato riconosciuto uno status giuridico, ma che proposte in tal senso potrebbero rendere più difficile attribuire le responsabilità.
Un appello a regole e responsabilità
La trascrizione della Santa Sede enuncia cinque principi: il futuro dell’IA dipende dalle scelte umane; le macchine sono strumenti; alcune decisioni non devono essere delegate; l’IA deve contribuire al bene comune; e le istituzioni devono tradurre i principi etici in pratica. Leone ha chiesto standard condivisi, una supervisione indipendente e procedure per contestare le decisioni e ottenere riparazione per i danni subiti.
Secondo Vatican News, Leone ha detto che i partecipanti all’incontro condividevano la preoccupazione per l’IA e che servono ulteriori interventi. The Verge osserva che il discorso riprende il documento di maggio, Magnifica Humanitas, e fa eco all’appello di Papa Francesco del 2024, secondo cui nessuna macchina dovrebbe decidere se togliere la vita a una persona. Leone collega quell’avvertimento a una richiesta più ampia di supervisione sullo sviluppo e sull’uso dell’IA.
Perché conta
Per chi è sottoposto a controlli alle frontiere o ad altre decisioni ad alto impatto, la proposta di Leone è che le decisioni sulla libertà o sulla sicurezza siano supervisionate da una persona responsabile, e non affidate soltanto a un sistema di IA. Il discorso chiede a governi e istituzioni di fissare regole: non stabilisce che siano state adottate nuove norme o un divieto delle armi.
