英国边境与移民事务独立首席监察专员正在考虑，是否调查内政部在庇护案件中使用AI工具一事。数字权利组织Open Rights Group（ORG）活动人士Sara Alsherif告诉WIRED，监察机构正在征询ORG的意见，为明年的检查工作确定重点。监察专员告诉WIRED，目前无法确认正在考虑哪些具体议题，但表示已知悉外界对这些工具的担忧。
内政部使用两款基于OpenAI的GPT-4和Microsoft Foundry构建的工具：庇护案件摘要工具（Asylum Case Summarisation，ACS）用于总结庇护面谈记录；庇护政策搜索工具（Asylum Policy Search，APS）用于查找并总结有关申请人原籍国的信息。该部门于2024年末开始试点这两款工具，当时正处理约100,000宗积压案件。政府根据试点作出的估算称，两款工具配合使用，每宗案件可节省约一小时。内政部表示，庇护决定由受过培训的案件审理人员作出，工具不能自行决定申请结果。
有哪些担忧？
ORG历时六个月的调查发现，ACS摘要被认为不适合使用的比例，远高于试点评估报告所称的9 percent错误率。调查还发现，APS摘要没有质量控制。内政部表示会监控这些工具，并承诺发布更新后的评估结果；但据WIRED报道，该部门尚未向ORG提供其所要求的细节，包括工作人员如何使用这些工具，以及接受了哪些使用培训。
这些风险不容忽视，因为案件审理人员会在评估申请人被遣返回原籍国后是否会遭受伤害时，参考摘要和政策搜索结果。今年7月，一名英国法官批评内政部在拒绝一名摩洛哥女子及其子女的庇护申请时，引用了一份“AI幻觉”生成的文件。研究人员和议员也曾警告，错误或文化背景信息的缺失可能影响决定。
这些工具未公开列出
英国《人工智能指南》（AI Playbook）规定，政府部门应公开披露用于决策的算法工具，并将其列入公开名录。据WIRED报道，ACS和APS均未列入名录，庇护申请人也不会被告知自己的案件是否使用了这些工具。ORG和Public Law Project已向数据监管机构提出担忧；该机构正在调查内政部拒绝向ORG提供信息一事。ORG委托的律师表示，不让申请人质疑错误摘要，可能违反数据权利法。
监察专员尚未确认是否会启动调查。另一个担忧是，Public Law Project称，ACS和APS也属于未列入公开名单的11个高风险政府AI系统。OpenAI告诉WIRED，公司正致力于提升模型准确性，并计划于January淘汰GPT-4。
为什么重要
对在英国寻求庇护的人而言，AI生成的摘要和政策搜索结果可能成为案件审理人员参考材料的一部分，尽管内政部表示决定由人工作出。监察机构正在考虑是否审查此事，但尚未确认会启动调查；申请人也不会被告知自己的案件是否使用了这些工具。
