Oossa

دراسة: معظم مكاسب RLVR خارج نطاق التدريب تعود إلى تنسيق الإجابات

عند إعادة التقييم باستخدام أداة استخراج محايدة، اختفى 82% من التحسن المعلن، ما يشير إلى أن أثره كان في تنسيق الإجابات.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

درس الباحثون زونغيه ليو وزملاؤه التعلّم المعزّز ذي المكافآت القابلة للتحقق (RLVR). وقارنوا نموذجًا أساسيًا يحوي 7 مليارات مُعامل بنسخته المدرّبة بتقنية RL، عبر أربع مجموعات من النماذج المتاحة. واستخدموا أداة استخراج خاصة بهم تبحث عن الإجابات داخل وسم \boxed{}، فوجدوا أن 82% من التحسن المُعلن في أسئلة الاختيار من متعدد خارج نطاق التدريب، وفق أدوات الاستخراج العامة، قد اختفى. ويُعزى معظم المكسب إلى أن النموذج صار يضع إجابته داخل المربع، لا إلى تحسّن قدرته على الإجابة.

لماذا يهم

تشير الدراسة إلى أن مكاسب الأداء المنسوبة إلى RLVR قد تكون ناتجة عن طريقة تحليل الإجابات، لا عن تحسّن حقيقي في الاستدلال.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.