Oossa

تحلیل: بیشتر بهبودهای RLVR بیرون از دامنه، ناشی از قالب پاسخ است

با بازسنجی به کمک استخراج‌گر بی‌طرف، 82% از بهبود گزارش‌شده از بین رفت؛ یعنی اثر ناشی از قالب‌بندی پاسخ بود.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پژوهشگران، زونگیه لیو و همکارانش، یادگیری تقویتی با پاداش‌های قابل‌راستی‌آزمایی (RLVR) را بررسی کردند. آن‌ها یک مدل پایه با 7 میلیارد پارامتر را با نسخه آموزش‌دیده با RL آن، در چهار جفت مدل منتشرشده مقایسه کردند. با استفاده از استخراج‌گر خودشان که پاسخ‌ها را درون برچسب \boxed{} پیدا می‌کند، دریافتند 82% از بهبود چندگزینه‌ایِ خارج از دامنه که استخراج‌گرهای عمومی گزارش کرده بودند، از بین می‌رود. بخش عمده این افزایش به این دلیل بود که مدل پاسخ خود را داخل کادر قرار می‌داد، نه اینکه بهتر پاسخ دهد.

چرا مهم است

این یافته نشان می‌دهد بهبودهای عملکردیِ ادعاشده برای RLVR ممکن است حاصل نحوه استخراج پاسخ‌ها باشند، نه پیشرفت واقعی در استدلال.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.