يدرس المفتش العام المستقل للحدود والهجرة في المملكة المتحدة ما إذا كان سيحقق في استخدام وزارة الداخلية أدوات الذكاء الاصطناعي في قضايا اللجوء. وطلبت الجهة الرقابية معلومات من مجموعة الحقوق الرقمية Open Rights Group (ORG)، في إطار إعداد أولويات التفتيش للعام المقبل، بحسب ما قالت سارة الشريف، الناشطة في المجموعة، لمجلة WIRED. وقال المفتش لـWIRED إنه لا يستطيع تأكيد الموضوعات التي يدرسها حالياً، لكنه على علم بالمخاوف المتعلقة بهذه الأدوات.
تستخدم وزارة الداخلية أداتين مبنيتين على GPT-4 من OpenAI وMicrosoft Foundry: أداة تلخيص قضايا اللجوء (ACS)، التي تلخص نصوص مقابلات اللجوء، وأداة البحث في سياسات اللجوء (APS)، التي تعثر على معلومات عن بلدان المتقدمين وتلخصها. وبدأت الوزارة تجربتهما في أواخر 2024، في وقت كانت تعمل فيه على معالجة تراكم بلغ نحو 100,000 قضية. وأشارت تقديرات حكومية مستندة إلى التجربة إلى أن استخدام الأداتين معاً قد يوفر نحو ساعة في كل قضية. وتقول وزارة الداخلية إن موظفي القضايا المدرَّبين هم من يتخذون قرارات اللجوء، وإن الأداتين لا تستطيعان البت في الطلبات بمفردهما.
ما أوجه القلق؟
خلص تحقيق أجرته ORG على مدى ستة أشهر إلى أن نسبة ملخصات ACS التي عُدّت غير صالحة للاستخدام أعلى بكثير من معدل الأخطاء البالغ 9 بالمئة الذي أورده تقييم التجربة. كما لم يجد التحقيق أي رقابة على جودة ملخصات APS. وتقول وزارة الداخلية إنها تراقب الأداتين والتزمت بنشر تقييمات محدَّثة، لكن WIRED أفادت بأن الوزارة لم تكشف التفاصيل التي طلبتها ORG عن كيفية استخدام الموظفين للأداتين أو تدريبهم على ذلك.
وتكتسب هذه المخاطر أهمية لأن موظفي القضايا يستعينون بالملخصات وعمليات البحث في السياسات عند تقييم ما إذا كان المتقدمون سيواجهون الأذى إذا أُعيدوا إلى بلدانهم. وفي يوليو، انتقد قاضٍ بريطاني وزارة الداخلية لاستنادها إلى وثيقة «هلوس بها الذكاء الاصطناعي» عند رفض طلب لجوء قدمته امرأة مغربية وطفلها. كما حذّر باحثون ومشرّعون من أن الأخطاء أو إغفال السياق الثقافي قد يؤثران في القرارات.
الأداتان غير مدرجتين في السجل العام
ينص دليل الذكاء الاصطناعي في المملكة المتحدة على أن على الجهات الحكومية الإفصاح عن الأدوات الخوارزمية المستخدمة في اتخاذ القرارات وإدراجها في سجل عام. لكن ACS وAPS غير مدرجتين، كما لا يُبلَّغ طالبو اللجوء عند استخدام الأداتين في قضاياهم، بحسب WIRED. وقد أثارت ORG وPublic Law Project مخاوف لدى الجهة التنظيمية للبيانات، التي تحقق في رفض وزارة الداخلية تزويد ORG بالمعلومات. وقال محامون كلفتهم ORG إن منع المتقدمين من الطعن في الملخصات غير الدقيقة قد يشكل خرقاً لقانون حقوق البيانات.
لم يؤكد المفتش أنه سيفتح تحقيقاً. ومن المخاوف الأخرى أن ACS وAPS من بين 11 نظاماً حكومياً عالي المخاطر للذكاء الاصطناعي تقول Public Law Project إنها غير مدرجة في القائمة العامة. وقالت OpenAI لـWIRED إنها تعمل على تحسين دقة النماذج، وتخطط لإيقاف GPT-4 في يناير.
لماذا يهم
بالنسبة إلى طالبي اللجوء في المملكة المتحدة، قد تؤثر الملخصات وعمليات البحث في السياسات التي ينتجها الذكاء الاصطناعي في المواد التي يراجعها موظفو القضايا، رغم تأكيد وزارة الداخلية أن البشر هم من يتخذون القرارات. ويدرس المفتش إجراء مراجعة، لكنه لم يؤكد فتح تحقيق، كما لا يُبلَّغ المتقدمون عند استخدام الأداتين في قضاياهم.
