أطلق باحثون بقيادة شيو جي تقنية RoLaQ، وهي أسلوب معايرة لذاكرات المفتاح والقيمة بدقة 2 بت المستخدمة في الانتباه الكامن متعدد الرؤوس. وتضبط التقنية الدوران ونطاق التكميم معًا، مع إبقاء أوزان النموذج ثابتة. وفي اختبارات على ثلاثة نماذج وستة معايير، حققت RoLaQ أعلى متوسط دقة بين أساليب 2 بت. وعلى DeepSeek‑V2‑Lite، وصلت نسخة مطبقة عبر SGLang إلى سعة ذاكرة BF16 أكبر بـ3.96 مرة وسرعة فك ترميز أعلى بـ2.51 مرة، مع سياق يضم 256K رمزًا.
لماذا يهم
يمكن لمطوري نماذج اللغة ذات السياق الطويل تشغيل مطالبات أكبر بسرعة أعلى، من دون الحاجة إلى عتاد إضافي.
