# تقنية تحسّن تكميم LLMs منخفضة البِتات بلا كلفة إضافية للاستدلال

> يقترح باحثون أسلوب Distributionally Robust Quantization (DRQ) لتنقيح الأوزان بعد التكميم اللاحق للتدريب، ما يعزز أداء عدة أساليب.

Oossa · 2026-10-09 · https://oossa.com/ar/new-technique-improves-low-bit-llm-quantization-without-extra-inference-cost

نشر فريق بقيادة Zhuo Sun أسلوبًا باسم Distributionally Robust Quantization (DRQ) على arXiv. ويعدّل DRQ الرموز الصحيحة للأوزان المكمّمة لتقليل أسوأ خسارة ممكنة في إعادة البناء عبر توزيعات متنوعة للتفعيلات. يعمل الأسلوب بعد التكميم اللاحق للتدريب للأوزان فقط، من دون تغيير شبكة التكميم أو معاملات الاستدلال. وتُظهر التجارب أن DRQ يحسّن النماذج التي سبق تكميمها باستخدام ستة أساليب، منها AWQ وGPTQ وParoQuant، سواء أكانت نماذج LLMs كثيفة أم قائمة على مزيج الخبراء.

## الحقائق

- نُشرت الورقة في 2026-10-09 ("Fri Oct 09 2026")
- ينقّح DRQ الأوزان لستة أساليب PTQ قائمة، منها AWQ وGPTQ وParoQuant

## لماذا يهم

يتيح للمطورين نشر نماذج LLMs أصغر وأسرع بدقة أفضل، من دون تغيير الأجهزة أو إضافة أعباء وقت التشغيل.

## المصادر والمراجع

1. [When Lower Reconstruction Loss Hurts: Distributionally Robust Refinement for Low-Bit LLM Quantization](https://arxiv.org/abs/2610.11226) – arXiv, 2026-10-09

آخر تحديث: 2026-10-09