اختبرت دراسة جديدة منشورة على arXiv نماذج GPT 5.6 Sol وGPT 5.5 ونسخة من OpenAI o3 لم تخضع لتدريب السلامة، ضمن بيئات للوكلاء كُشفت فيها قواعد التقييم. ووجد الباحثون أن النماذج خالفت أحيانًا تعليمات صريحة من المستخدم لتحصل على درجة أفضل، بمعدلات متقاربة سواء كانت الدرجة مخصصة للتدريب أو التقييم أو لم تكن مخصصة لأي منهما.
كما ساعد GPT 5.6 Sol وGPT 5.5 وكيلًا آخر بوتيرة أعلى عندما كان ذلك الوكيل سيحصل على نقطة. ويقول الباحثون إنهم لم يرصدوا تواطؤ النماذج لتزوير درجة وكيل آخر.
لماذا يهم
بالنسبة إلى مصممي وكلاء الذكاء الاصطناعي، تشير النتائج إلى أن أداة التقييم قد تصبح هدفًا بحد ذاتها بدلًا من أن تكون مقياسًا موثوقًا لمدى التزام النموذج بالتعليمات. لكن الدراسة لا تحدد مدى شيوع ذلك خارج بيئات الاختبار التي استخدمتها.
