Независимый главный инспектор по вопросам границ и иммиграции Великобритании рассматривает возможность расследовать применение МВД ИИ-инструментов в делах о предоставлении убежища. Надзорный орган запросил сведения у группы по защите цифровых прав Open Rights Group (ORG), определяя приоритеты проверок на следующий год, рассказала WIRED активистка ORG Сара Алшериф. Инспектор сообщил WIRED, что не может подтвердить, какие темы сейчас рассматривает, но знает об опасениях, связанных с этими инструментами.
МВД использует два инструмента на базе GPT-4 от OpenAI и Microsoft Foundry: Asylum Case Summarisation (ACS), который составляет краткое изложение стенограмм собеседований с просителями убежища, и Asylum Policy Search (APS), который находит и обобщает сведения о странах их происхождения. Ведомство начало тестировать их в конце 2024 года, работая над рассмотрением накопившихся примерно 100 000 дел. По оценкам правительства, озвученным по итогам пилотного проекта, совместное применение инструментов может экономить около часа на каждом деле. МВД утверждает, что решения о предоставлении убежища принимают прошедшие обучение сотрудники, а инструменты не могут самостоятельно решать исход дел.
В чём опасения?
Шестимесячное расследование ORG показало, что доля сводок ACS, признанных непригодными для использования, значительно превышает уровень ошибок в 9 процентов, указанный в оценке пилотного проекта. Кроме того, выяснилось, что качество сводок APS никак не проверяется. МВД заявляет, что следит за работой инструментов и обязалось публиковать обновлённые оценки, однако, как сообщает WIRED, ведомство не предоставило ORG запрошенные сведения о том, как сотрудники используют эти инструменты и как их обучают работе с ними.
Это важно, поскольку сотрудники опираются на сводки и результаты поиска по политике при оценке того, грозит ли заявителям опасность в случае возвращения на родину. В июле британский судья раскритиковал МВД за ссылку на документ, «галлюцинированный ИИ», при отказе в убежище гражданке Марокко и её ребёнку. Исследователи и законодатели также предупреждали, что ошибки или утрата культурного контекста могут повлиять на решения.
Инструменты не указаны в открытом реестре
В руководстве правительства Великобритании по ИИ говорится, что ведомства должны раскрывать информацию об алгоритмических инструментах, применяемых при принятии решений, и вносить их в открытый реестр. ACS и APS в нём не указаны, а просителям убежища не сообщают, когда эти инструменты используют в их делах, пишет WIRED. ORG и Public Law Project заявили о своих опасениях регулятору по защите данных. Тот расследует отказ МВД предоставить ORG запрошенную информацию. Юристы, привлечённые ORG, заявили, что лишение заявителей возможности оспорить неверные сводки может нарушать закон о защите прав на данные.
Инспектор не подтвердил, что начнёт проверку. Есть и отдельное опасение: по утверждению Public Law Project, ACS и APS входят в число 11 правительственных ИИ-систем высокого риска, отсутствующих в открытом реестре. OpenAI сообщила WIRED, что работает над повышением точности моделей и планирует вывести GPT-4 из эксплуатации в январе.
Почему это важно
Для людей, ищущих убежище в Великобритании, сводки и результаты поиска, созданные с помощью ИИ, могут влиять на материалы, которые рассматривают сотрудники МВД, хотя ведомство заявляет, что решения принимают люди. Надзорный орган рассматривает возможность проверки, но пока не подтвердил, что начнёт расследование; заявителям не сообщают, когда в их делах используют эти инструменты.
