يصف باحثون طريقة لتسريع توليد النصوص طويلة السياق في النماذج اللغوية الكبيرة الهجينة، من دون إعادة تدريبها أو تغيير أوزانها. وتعتمد طريقتهم على جعل كل طبقة انتباه كامل تركز على الرموز الحديثة، ومقدمة مثبتة، ومجموعة محدودة من الرموز ذات الصلة التي تختارها من السياق الأوسع.
في اختبارات شملت ستة نماذج يتراوح حجمها بين 4 مليارات و397 مليار معلمة، أفاد الباحثون بأن دقة الأداء طابقت المستوى الأساسي على 21 مجموعة بيانات. وبالنسبة إلى Qwen3.5-4B، كان فك ترميز 256,000 رمز أسرع بما يصل إلى 2.22 مرة؛ وهذه نتائج أوردتها الورقة البحثية وليست تقييماً مستقلاً.
لماذا يهم
قد تساعد الزيادة المعلنة في السرعة الفرق التي تشغّل نماذج هجينة طويلة السياق على تقليل وقت فك الترميز من دون إعادة التدريب، لكن الورقة لا تثبت أداء الطريقة في أنظمتها الخاصة.
