영국 국경·이민 독립감찰관은 망명 사건에서 내무부가 AI 도구를 사용하는 문제를 조사할지 검토하고 있다. 디지털 권리 단체 오픈라이츠그룹(ORG)의 활동가 사라 알셰리프는 WIRED에 감찰관이 내년 조사 우선순위를 정하는 과정에서 ORG에 관련 정보를 요청했다고 밝혔다. 감찰관은 WIRED에 현재 검토 중인 주제를 확인해 줄 수는 없지만, 해당 도구를 둘러싼 우려를 알고 있다고 말했다.
내무부는 OpenAI의 GPT-4와 Microsoft Foundry를 기반으로 한 두 가지 도구를 사용한다. 망명 사건 요약(ACS)은 망명 인터뷰 녹취록을 요약하고, 망명 정책 검색(APS)은 신청자의 출신국 관련 정보를 찾아 요약한다. 내무부는 약 100,000건의 적체 사건을 처리하던 2024년 말 두 도구의 시범 운영을 시작했다. 정부는 시범 운영 당시 두 도구를 함께 사용하면 사건당 약 한 시간을 절약할 수 있다고 추산했다. 내무부는 훈련받은 심사관이 망명 신청을 결정하며 도구가 독자적으로 신청을 판정할 수는 없다고 밝혔다.
우려되는 점은?
ORG의 6개월 조사에 따르면 ACS 요약 가운데 사용할 수 없다고 판단된 비율은 시범 평가에서 보고된 오류율 9 percent보다 훨씬 높았다. APS 요약에는 품질 관리 절차가 없다는 점도 확인됐다. 내무부는 도구를 모니터링하고 최신 평가 결과를 공개하겠다고 약속했지만, WIRED 보도에 따르면 ORG가 요청한 도구 사용 방식과 직원 교육 관련 세부 정보는 공개하지 않았다.
심사관은 신청자가 본국으로 송환될 경우 피해를 입을 위험이 있는지 평가할 때 요약과 정책 검색 결과를 활용하기 때문에 이러한 위험은 중요하다. 7월 영국의 한 판사는 모로코 여성과 자녀의 망명 신청을 거부하면서 내무부가 ‘AI가 환각으로 만들어낸’ 문서를 인용했다고 비판했다. 연구자와 의원들도 오류나 문화적 맥락의 누락이 결정에 영향을 줄 수 있다고 경고해 왔다.
공개 목록에 없는 도구
영국의 AI 플레이북은 정부 부처가 의사결정에 사용하는 알고리즘 도구를 공개하고 공공 목록에 등록하도록 규정한다. WIRED 보도에 따르면 ACS와 APS는 목록에 없으며, 망명 신청자에게도 사건 처리에 이 도구들이 사용되는지 알리지 않는다. ORG와 퍼블릭 로 프로젝트는 정보 규제기관에 우려를 제기했고, 해당 기관은 ORG에 정보 제공을 거부한 내무부를 조사하고 있다. ORG가 의뢰한 변호사들은 신청자가 부정확한 요약에 이의를 제기하지 못하게 하는 것은 데이터 권리법을 위반할 수 있다고 밝혔다.
감찰관은 조사에 착수할지 아직 확인하지 않았다. 또 다른 우려는 퍼블릭 로 프로젝트가 공개 목록에서 빠졌다고 지적한 고위험 정부 AI 시스템 11개에 ACS와 APS가 포함돼 있다는 점이다. OpenAI는 WIRED에 모델 정확도를 높이기 위해 노력하고 있으며 1월에 GPT-4를 단계적으로 폐지할 계획이라고 밝혔다.
왜 중요한가
영국에서 망명을 신청하는 사람들의 사건을 심사할 때 AI가 만든 요약과 정책 검색 결과가 참고 자료로 활용될 수 있지만, 내무부는 최종 결정은 사람이 내린다고 말한다. 감찰관은 조사를 검토 중이나 착수 여부를 확정하지 않았으며, 신청자들은 사건에 이 도구들이 사용되는지 안내받지 못한다.
