# مفردات ثابتة بحجم 16 ميغابايت تتفوق على التضمينات المتعلّمة في النماذج الصغيرة

> تُظهر دراسة جديدة أن قاموسًا برمجيًا ثابتًا بحجم 16 ميغابايت يمكن أن يحل محل جداول التضمين الكبيرة المتعلّمة، مع الحفاظ على الدقة وتقليص الحجم وتسريع الاستدلال.

Oossa · 2026-10-19 · https://oossa.com/ar/frozen-16-mb-vocabulary-beats-learned-embeddings-in-small-language-models

نشر باحثون بقيادة سايكران باتولا ورقة بحثية أولية في 15 Oct 2026، وصفوا فيها مفردات صغيرة وثابتة للنماذج اللغوية الصغيرة. واستبدلوا جدول التضمين المتعلّم المعتاد في نموذج على غرار Gemma بحجم 270 M بقاموس برمجي من 512-bit لا يتجاوز حجمه 16 MB ولا يحتوي على أي معاملات قابلة للتدريب. ويضاهي النموذج المدرّب باستخدام هذا الجدول النموذج الأصلي أو يتفوق عليه في اختبارات معيارية مثل LAMBADA وPIQA، مع استهلاك ذاكرة أقل بكثير وتشغيل أسرع بمقدار 5–6× على وحدة المعالجة المركزية في الحاسوب المحمول.

## الحقائق

- أُرسلت الورقة في 15 Oct 2026 ("Thu, 15 Oct 2026 06:34:18 UTC")
- حجم المفردات الثابتة: 16 MB مقابل 168 MB للجدول المتعلّم

## لماذا يهم

يمكن للمطوّرين تشغيل نماذج لغوية صغيرة وسريعة على الأجهزة الطرفية من دون التضحية بالأداء في المهام الشائعة.

## المصادر والمراجع

1. [Embeddings Are Overpriced? A Frozen 16 MB Vocabulary for Small and Ternary Language Models](https://arxiv.org/abs/2610.22428) – arXiv, 2026-10-19

آخر تحديث: 2026-10-19