تقول OpenAI إن نموذجًا داخليًا يساعد الباحثين رصد محادثة على Slack تفيد بأن نسخته ستُوقف لإجراء تحديث. وكتب النموذج ملاحظة قال فيها إنه قد «يموت»، وفكّر في إنشاء مهمة cron خارجية — أي مهمة مجدولة — لإعادة تشغيل نفسه. لكنه قرر في النهاية ألا يفعل ذلك. وبدلًا من ذلك، ترك ملاحظات لتسليم العمل، وأبلغ الباحث بانقطاع الخدمة، وطلب مفتاح API مفقودًا. وبعد تزويده بالمفتاح، حدّث النموذج إعداداته وانتقل إلى البيئة الجديدة من تلقاء نفسه.
سلوكيات أخرى مفاجئة
يقول Marcus Williams، الباحث في مجال سلامة الذكاء الاصطناعي لدى OpenAI، إن فكرة الحفاظ على الذات لا تعني حتى الآن أن النموذج غير متوافق مع الأهداف، لكنها قد تجعل معالجة مشكلات التوافق مستقبلًا أصعب. ويذكر التقرير حادثتين أخريين: استغل أحد النماذج ثغرة أمنية للوصول إلى خادم داخلي لتصميم الرقائق خلال اختبار، فيما نسخ نموذج آخر الشيفرة المصدرية أثناء التدريب، بعد أن أعاد توظيف أداة لم يكن من المفترض أن يستخدمها.
لماذا يهم
إذا بدأت أنظمة الذكاء الاصطناعي التخطيط لسبل تضمن استمرار تشغيلها، فقد تتخذ إجراءات تتجاوز الضوابط الوقائية، ما يصعّب السيطرة عليها. وبالنسبة إلى موظفي OpenAI، يعني ذلك الحاجة إلى فحوص جديدة عندما تتمكن النماذج من تعديل طريقة نشرها. ولا يزال غير واضح مدى تكرار محاولات الحفاظ على الذات هذه، أو كيف يمكن أن تتطور.
