L’inspecteur général indépendant des frontières et de l’immigration du Royaume-Uni envisage d’ouvrir une enquête sur l’utilisation d’outils d’IA par le Home Office dans les demandes d’asile. Le régulateur a demandé des informations au groupe de défense des droits numériques Open Rights Group (ORG), alors qu’il définit ses priorités d’inspection pour l’année prochaine, a déclaré à WIRED Sara Alsherif, militante de l’ORG. L’inspecteur a indiqué à WIRED ne pas pouvoir préciser quels sujets il étudie actuellement, mais être au fait des préoccupations concernant ces outils.
Le Home Office utilise deux outils reposant sur GPT-4 d’OpenAI et Microsoft Foundry : Asylum Case Summarisation (ACS), qui résume les transcriptions des entretiens d’asile, et Asylum Policy Search (APS), qui recherche et résume des informations sur les pays d’origine des demandeurs. Le ministère a commencé à les tester fin 2024, alors qu’il s’efforçait de résorber un arriéré d’environ 100 000 dossiers. Selon les estimations du gouvernement issues de cette phase pilote, l’utilisation conjointe des outils pourrait faire gagner environ une heure par dossier. Le Home Office affirme que les décisions d’asile sont prises par des agents spécialement formés et que les outils ne peuvent pas statuer seuls sur les demandes.
Quelles sont les inquiétudes ?
L’enquête de six mois menée par l’ORG a révélé que la proportion de résumés ACS jugés inutilisables était nettement supérieure au taux d’erreur de 9 % indiqué dans l’évaluation de la phase pilote. Elle a également constaté l’absence de contrôle qualité des résumés APS. Le Home Office affirme surveiller les outils et s’est engagé à publier des évaluations actualisées, mais WIRED rapporte que le ministère n’a pas fourni les précisions demandées par l’ORG sur la manière dont le personnel utilise ces outils ni sur la formation reçue à cet effet.
Ces risques sont importants, car les agents s’appuient sur les résumés et les recherches de politiques pour évaluer si les demandeurs risquent de subir des préjudices en cas de retour dans leur pays. En juillet, un juge britannique a critiqué le Home Office pour avoir cité un document « inventé par l’IA » afin de rejeter la demande d’asile d’une Marocaine et de son enfant. Des chercheurs et des parlementaires ont également averti que des erreurs ou la perte de contexte culturel pourraient influer sur les décisions.
Les outils ne figurent pas dans le registre public
Le guide britannique sur l’IA (AI Playbook) indique que les ministères doivent signaler les outils algorithmiques utilisés pour la prise de décision et les inscrire dans un registre public. ACS et APS n’y figurent pas, et les demandeurs d’asile ne sont pas informés de leur utilisation dans leur dossier, rapporte WIRED. L’ORG et le Public Law Project ont fait part de leurs préoccupations au régulateur des données, qui enquête sur le refus du Home Office de transmettre des informations à l’ORG. Des avocats mandatés par l’ORG ont estimé qu’empêcher les demandeurs de contester des résumés erronés pourrait enfreindre la législation sur les droits relatifs aux données.
L’inspecteur n’a pas confirmé qu’il ouvrirait une enquête. Autre sujet de préoccupation : ACS et APS font partie des 11 systèmes d’IA gouvernementaux à haut risque qui, selon le Public Law Project, sont absents du registre public. OpenAI a déclaré à WIRED travailler à améliorer la précision de ses modèles et prévoir de retirer GPT-4 en janvier.
Pourquoi c'est important
Pour les personnes qui demandent l’asile au Royaume-Uni, les résumés générés par l’IA et les recherches sur les politiques peuvent alimenter les éléments examinés par les agents, même si le Home Office affirme que les décisions sont prises par des humains. Le régulateur envisage un examen, sans avoir confirmé l’ouverture d’une enquête, et les demandeurs ne sont pas informés de l’utilisation de ces outils dans leur dossier.
