Oossa

روش TRIAGE آموزش RL چهار‌بیتی مدل‌های Qwen را پایدار می‌کند

پژوهشگران TRIAGE را معرفی کرده‌اند؛ روشی آگاه از جهت تغییرات که با حفظ اجرای چهار‌بیتی، عملکردی هم‌سطح دقت کامل در بنچمارک‌های ریاضی ارائه می‌دهد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

Zhen Li و گروهش در 7 اکتبر 2026 روش تازه‌ای به نام TRIAGE منتشر کردند. این روش در قالب بومی NVFP4، قالبی چهار‌بیتی برای وزن‌ها و فعال‌سازی‌ها، عمل می‌کند تا به‌روزرسانی‌های گرادیان سیاست را در فرایند یادگیری تقویتی متعادل کند. TRIAGE ناهماهنگی‌ها را در سطح بخش‌ها تشخیص می‌دهد و اصلاحاتی محدود اعمال می‌کند، بی‌آنکه اجرای کم‌دقت را تغییر دهد. آزمایش‌ها روی Qwen3‑4B و Qwen3‑30B‑A3B آموزش پایدار و کیفیتی هم‌سطح دقت کامل را در پنج بنچمارک استدلال ریاضی نشان دادند؛ ضمن اینکه سرعت rollout تا 2.3 برابر بیشتر از BF16 بود.

چرا مهم است

این روش به توسعه‌دهندگان امکان می‌دهد مدل‌های زبانی بزرگ را با سخت‌افزار چهار‌بیتی و سرعت بیشتر، بدون افت دقت آموزش دهند و هزینه محاسبات را کاهش دهند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.