بازرس مستقل مرزی و مهاجرت بریتانیا در حال بررسی این موضوع است که آیا کاربرد ابزارهای هوش مصنوعی وزارت کشور در پرونده‌های پناهندگی را بررسی کند یا نه. این نهاد ناظر، در جریان تدوین اولویت‌های بازرسی سال آینده، از گروه حقوق دیجیتال Open Rights Group (ORG) اطلاعات خواسته است. سارا الشرِف، کارزارگر ORG، این موضوع را به WIRED گفت. بازرس به WIRED گفت نمی‌تواند تأیید کند که فعالانه چه موضوعاتی را بررسی می‌کند، اما از نگرانی‌ها درباره این ابزارها آگاه است.
وزارت کشور از دو ابزار مبتنی بر GPT-4 شرکت OpenAI و Microsoft Foundry استفاده می‌کند: ابزار Asylum Case Summarisation (ACS) متن مصاحبه‌های پناهندگی را خلاصه می‌کند و Asylum Policy Search (APS) اطلاعات مربوط به کشورهای مبدأ متقاضیان را پیدا و خلاصه می‌کند. این وزارتخانه در اواخر 2024، هم‌زمان با رسیدگی به انباشت حدود 100,000 پرونده، آزمایش این ابزارها را آغاز کرد. برآوردهای دولت در دوره آزمایشی نشان می‌داد استفاده هم‌زمان از دو ابزار می‌تواند برای هر پرونده حدود یک ساعت صرفه‌جویی کند. وزارت کشور می‌گوید تصمیم‌های پناهندگی را کارشناسان پرونده آموزش‌دیده می‌گیرند و ابزارها به‌تنهایی نمی‌توانند درباره درخواست‌ها تصمیم بگیرند.
نگرانی‌ها چیست؟
بررسی شش‌ماهه ORG نشان داد سهم خلاصه‌های ACS که برای استفاده نامناسب تشخیص داده شدند، به‌مراتب بیشتر از نرخ خطای 9 درصدیِ اعلام‌شده در ارزیابی دوره آزمایشی بود. این بررسی همچنین نشان داد برای خلاصه‌های APS هیچ کنترل کیفی‌ای وجود ندارد. وزارت کشور می‌گوید بر عملکرد ابزارها نظارت می‌کند و متعهد شده ارزیابی‌های به‌روزشده را منتشر کند؛ اما به گزارش WIRED، این وزارتخانه جزئیاتی را که ORG درباره نحوه استفاده کارکنان از ابزارها و آموزش آن‌ها خواسته بود، ارائه نکرده است.
این خطرها اهمیت دارند، چون کارشناسان پرونده هنگام ارزیابی این‌که آیا متقاضیان در صورت بازگشت به کشورشان در معرض آسیب قرار می‌گیرند، از خلاصه‌ها و جست‌وجوهای سیاستی استفاده می‌کنند. در ماه ژوئیه، یک قاضی بریتانیایی از وزارت کشور انتقاد کرد که هنگام رد درخواست پناهندگی یک زن مراکشی و فرزندش، به سندی استناد کرده که «هوش مصنوعی آن را جعل کرده بود». پژوهشگران و قانون‌گذاران نیز هشدار داده‌اند که خطاها یا از دست رفتن زمینه فرهنگی می‌تواند بر تصمیم‌ها اثر بگذارد.
ابزارها در فهرست عمومی ثبت نشده‌اند
راهنمای هوش مصنوعی بریتانیا می‌گوید نهادهای دولتی باید ابزارهای الگوریتمیِ به‌کاررفته در تصمیم‌گیری را اعلام و در یک پایگاه عمومی ثبت کنند. به گزارش WIRED، ACS و APS در این فهرست نیستند و به متقاضیان پناهندگی هم گفته نمی‌شود که در پرونده‌هایشان از این ابزارها استفاده شده است. ORG و Public Law Project نگرانی‌های خود را با نهاد ناظر بر داده‌ها در میان گذاشته‌اند؛ این نهاد در حال بررسی خودداری وزارت کشور از ارائه اطلاعات به ORG است. وکلایی که ORG مأمور بررسی موضوع کرده، گفته‌اند جلوگیری از اعتراض متقاضیان به خلاصه‌های نادرست ممکن است ناقض قوانین حقوق داده باشد.
بازرس تأیید نکرده است که تحقیقاتی را آغاز خواهد کرد. نگرانی جداگانه این است که ACS و APS از جمله 11 سامانه هوش مصنوعی پرخطر دولت هستند که به گفته Public Law Project از فهرست عمومی جا افتاده‌اند. OpenAI به WIRED گفت در حال تلاش برای بهبود دقت مدل است و قصد دارد GPT-4 را در January بازنشسته کند.
چرا مهم است
برای افرادی که در بریتانیا درخواست پناهندگی می‌دهند، خلاصه‌ها و جست‌وجوهای سیاستیِ تولیدشده با هوش مصنوعی ممکن است در میان مطالبی باشد که کارشناسان پرونده بررسی می‌کنند، هرچند وزارت کشور می‌گوید تصمیم‌گیرنده انسان است. نهاد ناظر در حال بررسی احتمال انجام بازرسی است، اما آغاز تحقیق را تأیید نکرده و به متقاضیان هم گفته نمی‌شود که در پرونده‌هایشان از این ابزارها استفاده شده است.
