Oossa

ORL يسرّع نماذج اللغة بالانتشار حتى 7 أضعاف

يتيح إطار ORL الجديد لنماذج الانتشار ذات 4B فك الترميز بسرعة أكبر مع الحفاظ على الجودة، محققًا أكثر من 5,000 رمز في الثانية على وحدة GPU واحدة.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

قدّم باحثون بقيادة ييفان يو ORL، وهي طريقة للتعلّم المتبقي على السياسة الحالية لنماذج اللغة بالانتشار. وتدرّب ORL النموذج على مسارات التنبؤ الخاصة به، وتضيف دالة خسارة لتقليص الإنتروبيا وتحسين دقة المخرجات. وعلى نموذج 4 B محوّل من Qwen3‑4B، زادت ORL عدد الرموز في كل تمريرة أمامية بما يصل إلى 6.2×، ورفعت معدل الإنتاجية الإجمالي بنحو 6.9×، مع جودة تضاهي أو تتجاوز جودة نماذج المواصفات ذاتية الانحدار. وحققت التقنية نفسها زيادة في السرعة بمقدار 1.5× على LLaDA‑2.1‑mini، ومكاسب محدودة على DiffusionGemma.

لماذا يهم

يمكن للمطورين نشر توليد نصوص أسرع وعالي الجودة على وحدات GPU مخصصة للمستهلكين، ما يخفض التكلفة وزمن الاستجابة لتطبيقات مثل روبوتات الدردشة.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.