Der unabhängige Chefinspektor für Grenzen und Einwanderung des Vereinigten Königreichs prüft, ob er den Einsatz von KI-Tools des Innenministeriums in Asylverfahren untersuchen soll. Die Aufsichtsbehörde hat die Digitalrechtsorganisation Open Rights Group (ORG) um Informationen gebeten, während sie ihre Prüfschwerpunkte für das kommende Jahr festlegt, sagte ORG-Kampagnenmitarbeiterin Sara Alsherif gegenüber WIRED. Der Inspektor teilte WIRED mit, er könne nicht bestätigen, welche Themen derzeit konkret geprüft würden, sei aber über die Bedenken zu den Tools informiert.
Das Innenministerium verwendet zwei Tools auf Basis von OpenAI’s GPT-4 und Microsoft Foundry: Asylum Case Summarisation (ACS), das Transkripte von Asylanhörungen zusammenfasst, und Asylum Policy Search (APS), das Informationen über die Herkunftsländer von Antragstellern findet und zusammenfasst. Das Ministerium begann Ende 2024 mit einem Pilotprojekt, während es einen Rückstand von rund 100,000 Fällen abarbeitete. Schätzungen der Regierung zufolge könnten die beiden Tools zusammen pro Fall etwa eine Stunde einsparen. Das Innenministerium erklärt, dass geschulte Sachbearbeiter über Asylanträge entscheiden und die Tools nicht selbstständig über Anträge befinden können.
Worum geht es bei den Bedenken?
Eine sechsmonatige Untersuchung der ORG ergab, dass der Anteil der ACS-Zusammenfassungen, die als unbrauchbar eingestuft wurden, deutlich über der in der Pilotstudie gemeldeten Fehlerquote von 9 Prozent lag. Außerdem stellte die Organisation fest, dass es bei APS-Zusammenfassungen keine Qualitätskontrolle gab. Das Innenministerium erklärt, es überwache die Tools und habe zugesagt, aktualisierte Bewertungen zu veröffentlichen. WIRED berichtet jedoch, dass das Ministerium der ORG keine angefragten Einzelheiten dazu mitgeteilt hat, wie Mitarbeitende die Tools verwenden oder für deren Nutzung geschult werden.
Die Risiken sind bedeutsam, weil Sachbearbeiter die Zusammenfassungen und Richtliniensuchen heranziehen, um zu beurteilen, ob Antragstellern bei einer Rückkehr in ihr Heimatland Schaden droht. Im Juli kritisierte ein britischer Richter das Innenministerium dafür, bei der Ablehnung des Asylantrags einer Marokkanerin und ihres Kindes ein „von KI halluziniertes“ Dokument angeführt zu haben. Forschende und Abgeordnete warnten zudem, dass Fehler oder der Verlust kultureller Zusammenhänge Entscheidungen beeinflussen könnten.
Die Tools sind nicht öffentlich aufgeführt
Das KI-Handbuch der britischen Regierung sieht vor, dass Ministerien algorithmische Tools offenlegen, die bei Entscheidungen eingesetzt werden, und sie in einem öffentlichen Register aufführen. ACS und APS sind dort nicht verzeichnet. Außerdem werden Asylsuchende laut WIRED nicht darüber informiert, wenn die Tools in ihren Fällen verwendet werden. Die ORG und das Public Law Project haben sich mit ihren Bedenken an die Datenschutzbehörde gewandt. Diese untersucht, warum das Innenministerium der ORG Informationen verweigert hat. Von der ORG beauftragte Anwälte erklärten, dass es gegen das Datenschutzrecht verstoßen könnte, Antragstellern die Möglichkeit zu nehmen, fehlerhafte Zusammenfassungen anzufechten.
Der Inspektor hat nicht bestätigt, dass er eine Untersuchung einleiten wird. Ein weiterer Kritikpunkt: ACS und APS gehören zu den 11 KI-Systemen mit hohem Risiko im öffentlichen Dienst, die laut Public Law Project in der öffentlichen Liste fehlen. OpenAI teilte WIRED mit, das Unternehmen arbeite daran, die Genauigkeit seiner Modelle zu verbessern, und plane, GPT-4 im Januar außer Dienst zu stellen.
Warum es wichtig ist
Für Menschen, die im Vereinigten Königreich Asyl beantragen, können KI-generierte Zusammenfassungen und Richtliniensuchen in die Unterlagen einfließen, die Sachbearbeiter prüfen – auch wenn das Innenministerium betont, dass Menschen die Entscheidungen treffen. Die Aufsichtsbehörde erwägt eine Prüfung, hat eine Untersuchung aber nicht bestätigt. Zudem erfahren Antragsteller nicht, wenn die Tools in ihren Fällen eingesetzt werden.
