英国の独立国境・移民監察官は、亡命申請の審査で内務省が使うAIツールについて調査するかどうか検討している。監察機関は来年の検査優先事項を決めるにあたり、デジタル権利団体Open Rights Group（ORG）に情報提供を求めたと、ORGのキャンペーン担当者Sara AlsherifがWIREDに語った。監察官はWIREDに対し、現在検討中のテーマを明らかにできないとしつつ、これらのツールへの懸念を把握していると述べた。
内務省はOpenAIのGPT-4とMicrosoft Foundryを基盤とする2つのツールを使っている。亡命申請者の面接記録を要約する「Asylum Case Summarisation（ACS）」と、申請者の出身国に関する情報を検索・要約する「Asylum Policy Search（APS）」だ。同省は約10万件の滞留案件に対応するなか、2024年後半に試験運用を始めた。政府の試験運用時の推計では、2つを併用すれば1件あたり約1時間を節約できる。内務省によると、亡命の判断は研修を受けた審査官が行い、ツールが単独で申請の可否を決めることはない。
懸念されているのは？
ORGの6カ月にわたる調査では、ACSの要約のうち使用に適さないと判断された割合は、試験評価で報告された9％の誤り率を大幅に上回っていた。また、APSの要約には品質管理がないことも分かった。内務省はツールを監視しており、評価の更新版を公表する方針だとしている。一方、WIREDによれば、職員がツールをどう使い、使い方の研修をどう受けているかについて、ORGが求めた詳細を同省は明らかにしていない。
審査官は、申請者が帰国した場合に危害を受けるおそれがあるかを判断する際、要約や政策情報の検索結果を参照するため、こうしたリスクは重要だ。7月には英国の裁判官が、モロッコ人女性とその子どもの亡命申請を却下する際に、内務省が「AIが幻覚で生成した」文書を根拠にしたとして批判した。研究者や議員も、誤りや文化的背景の欠落が判断に影響しかねないと警告している。
ツールは公開リストに掲載されていない
英国の「AI Playbook」は、政府機関に対し、意思決定に使うアルゴリズムツールを開示し、公開データベースに掲載するよう求めている。WIREDによれば、ACSとAPSは掲載されておらず、亡命申請者にも自分の案件でツールが使われたかどうかは知らされていない。ORGとPublic Law Projectはデータ保護規制当局に懸念を伝えており、同当局は内務省がORGへの情報提供を拒んだ件を調査している。ORGの依頼を受けた弁護士らは、申請者が誤った要約に異議を申し立てられないようにすることは、データ権利に関する法律に違反する可能性があると指摘した。
監察官は調査を開始するかどうか、まだ明らかにしていない。別の懸念として、Public Law Projectによれば、ACSとAPSは政府の高リスクAIシステム11件のうち、公開リストに掲載されていないシステムに含まれる。OpenAIはWIREDに対し、モデルの精度向上に取り組んでおり、1月にGPT-4の提供を終了する予定だと述べた。
なぜ重要か
英国で亡命を申請する人にとって、AIが作成する要約や政策情報の検索結果は、内務省が人間による判断を強調しているとはいえ、審査官が検討する資料に影響しうる。監察機関は調査を検討しているものの、開始を決めたとは明らかにしておらず、申請者は自分の案件でツールが使われたかどうか知らされていない。
