L’Independent Chief Inspector of Borders and Immigration del Regno Unito sta valutando se indagare sull’uso degli strumenti di intelligenza artificiale da parte del Ministero dell’Interno nei casi di richiesta d’asilo. In vista della definizione delle priorità delle ispezioni per il prossimo anno, l’organo di controllo ha chiesto informazioni al gruppo per i diritti digitali Open Rights Group (ORG), ha dichiarato a WIRED la campaigner di ORG Sara Alsherif. L’ispettorato ha detto a WIRED di non poter confermare quali temi stia prendendo in esame, ma di essere al corrente delle preoccupazioni sugli strumenti.
Il Ministero dell’Interno usa due strumenti basati su GPT-4 di OpenAI e Microsoft Foundry: Asylum Case Summarisation (ACS), che riassume le trascrizioni dei colloqui per l’asilo, e Asylum Policy Search (APS), che cerca e riassume informazioni sui Paesi d’origine dei richiedenti. Il dipartimento ha iniziato a testarli alla fine del 2024, mentre smaltiva un arretrato di circa 100,000 casi. Secondo le stime del governo basate sulla sperimentazione, usare insieme i due strumenti potrebbe far risparmiare circa un’ora per caso. Il Ministero dell’Interno afferma che le decisioni sulle domande d’asilo spettano a funzionari formati e che gli strumenti non possono decidere autonomamente sulle richieste.
Quali sono le preoccupazioni?
Un’indagine di sei mesi condotta da ORG ha rilevato che la quota di riassunti ACS ritenuti inutilizzabili era significativamente superiore al tasso di errore del 9 percento indicato nella valutazione della sperimentazione. Ha inoltre riscontrato l’assenza di controlli di qualità sui riassunti prodotti da APS. Il Ministero dell’Interno dichiara di monitorare gli strumenti e si è impegnato a pubblicare valutazioni aggiornate, ma secondo WIRED non ha fornito i dettagli richiesti da ORG sull’uso degli strumenti da parte del personale e sulla relativa formazione.
I rischi sono rilevanti perché i funzionari consultano i riassunti e le ricerche sulle politiche per valutare se i richiedenti rischiano di subire danni in caso di rimpatrio. A luglio, un giudice britannico ha criticato il Ministero dell’Interno per aver citato un documento «allucinato dall’AI» nel respingere la domanda d’asilo di una donna marocchina e di suo figlio. Anche ricercatori e legislatori hanno avvertito che errori o la perdita del contesto culturale potrebbero influire sulle decisioni.
Gli strumenti non sono registrati nell’elenco pubblico
L’AI Playbook del Regno Unito stabilisce che i dipartimenti governativi dovrebbero rendere noti gli strumenti algoritmici usati nel processo decisionale e inserirli in un registro pubblico. ACS e APS non compaiono nell’elenco e, secondo WIRED, i richiedenti asilo non vengono informati quando gli strumenti sono utilizzati nei loro casi. ORG e Public Law Project hanno segnalato le loro preoccupazioni all’autorità per la protezione dei dati, che sta indagando sul rifiuto del Ministero dell’Interno di fornire informazioni a ORG. Avvocati incaricati da ORG sostengono che impedire ai richiedenti di contestare riassunti inesatti potrebbe violare la normativa sui diritti in materia di dati.
L’ispettorato non ha confermato che avvierà un’indagine. Un’ulteriore preoccupazione riguarda il fatto che ACS e APS siano tra gli 11 sistemi di IA governativi ad alto rischio che, secondo Public Law Project, mancano dall’elenco pubblico. OpenAI ha dichiarato a WIRED di lavorare per migliorare l’accuratezza dei modelli e di voler ritirare GPT-4 a gennaio.
Perché conta
Per chi chiede asilo nel Regno Unito, i riassunti generati dall’AI e le ricerche sulle politiche possono influire sui materiali esaminati dai funzionari, anche se il Ministero dell’Interno sostiene che le decisioni sono prese da persone. L’ispettorato sta valutando una revisione, ma non ha confermato l’avvio di un’indagine; inoltre, i richiedenti non vengono informati quando gli strumenti sono usati nei loro casi.
