# RoLaQ يحسّن دقة وسرعة ذاكرة KV بدقة 2 بت

> تعزّز تقنية RoLaQ الجديدة الدقة وسرعة فك الترميز لذاكرات المفتاح والقيمة منخفضة الدقة في نماذج الانتباه الكامن متعدد الرؤوس.

Oossa · 2026-10-16 · https://oossa.com/ar/rolaq-improves-2-bit-kv-cache-accuracy-and-speed

أطلق باحثون بقيادة شيو جي تقنية RoLaQ، وهي أسلوب معايرة لذاكرات المفتاح والقيمة بدقة 2 بت المستخدمة في الانتباه الكامن متعدد الرؤوس. وتضبط التقنية الدوران ونطاق التكميم معًا، مع إبقاء أوزان النموذج ثابتة. وفي اختبارات على ثلاثة نماذج وستة معايير، حققت RoLaQ أعلى متوسط دقة بين أساليب 2 بت. وعلى DeepSeek‑V2‑Lite، وصلت نسخة مطبقة عبر SGLang إلى سعة ذاكرة BF16 أكبر بـ3.96 مرة وسرعة فك ترميز أعلى بـ2.51 مرة، مع سياق يضم 256K رمزًا.

## الحقائق

- قُدّمت RoLaQ في 14 Oct 2026 (معرّفها على arXiv هو 2610.20686).
- حققت سعة KV أكبر بـ3.96 مرة ومعدل إنتاجية لفك الترميز أعلى بـ2.51 مرة على DeepSeek‑V2‑Lite.

## لماذا يهم

يمكن لمطوري نماذج اللغة ذات السياق الطويل تشغيل مطالبات أكبر بسرعة أعلى، من دون الحاجة إلى عتاد إضافي.

## المصادر والمراجع

1. [RoLaQ: Joint Rotation and Range Calibration for 2-Bit KV Caches in Multi-Head Latent Attention](https://arxiv.org/abs/2610.20686) – arXiv cs.LG, 2026-10-16

آخر تحديث: 2026-10-16