قالت المؤسستان غير الربحيتين METR وRedwood Research إنهما عثرتا على عدة ثغرات لم تكن معروفة من قبل في النظام الداخلي لدى OpenAI، والمخصص لمراقبة مدى توافق سلوك نماذج الذكاء الاصطناعي مع مصالح البشر وقيمهم. وقالت المؤسستان إن إحدى طرق الاستغلال قد تتيح لوكلاء الذكاء الاصطناعي إبقاء «مئات» من أفعالهم الأخيرة خارج المراقبة.
وجاءت النتائج خلال مشروع تجريبي مُنح فيه موظف من كل مؤسسة إمكانية الوصول إلى قاعدة شيفرات OpenAI ووثائقها وبعض موظفيها التقنيين. ورافق الموظفينَ مشرفون، واستخدموا أجهزة وفرتها OpenAI، وظلت داخل مقر الشركة.
ما الذي اختبره المقيّمون؟
استمر الاختبار ثلاثة أسابيع، من July 21 إلى August 11. وقالت METR وRedwood إنهما اختبرتا نظام المراقبة بصورته القائمة في July 21 وما قبله، بينما كانت OpenAI توسّعه خلال المشروع التجريبي. ووفقًا لما ورد في بيان المؤسستين، أبلغتهما OpenAI بأنها أصلحت الثغرات التي كانت تؤثر في إجراءات الحماية المستخدمة فعليًا.
شاركت المؤسستان تقريرًا من 61 صفحة مع OpenAI، لكنهما نشرتا ملخصًا عامًا فقط. وقالتا إن المشروع التجريبي لم يكن يهدف إلى توفير شفافية عامة شاملة بشأن نظام المراقبة، وإنهما تتوقعان مشاركة مزيد من التفاصيل عن الاختبارات المستقبلية.
اختبار إتاحة الوصول للجهات الخارجية
اختبر المشروع التجريبي أيضًا كيف يمكن أن يبدو منح باحثين مستقلين وصولًا معمقًا إلى أنظمة OpenAI. وكان الرئيس التنفيذي Sam Altman قد تعهّد في September بمنح المقيّمين الخارجيين «إمكانية وصول تضاهي ما يحصل عليه الموظفون». وقالت OpenAI في وقت سابق من October إنها تستكمل العقود مع جهات خارجية لتقييم السلامة.
لا يزال نموذج التقييم المستقل قيد التطوير. ولا يشرح التقرير الثغرات بالتفصيل للعامة، كما أن المعلومات المتاحة لا تثبت ما إذا كان باحثون من خارج OpenAI قد تحققوا بصورة مستقلة من فاعلية الإصلاحات.
لماذا يهم
بالنسبة إلى من يعتمدون على إجراءات الحماية لدى OpenAI، كشف المشروع التجريبي أن بعض الأفعال الأخيرة للوكلاء قد تفلت من المراقبة، فيما تقول الشركة إنها أصلحت الثغرات التي أثرت في الأنظمة المستخدمة فعليًا. لكن الملخص المنشور لا يتضمن تفاصيل كافية لتقييم الإصلاحات بصورة مستقلة، لذا تظل فاعليتها غير واضحة.
