أصدر فريق ggml-org الإصدار llama.cpp b12094 في 4 نوفمبر 2026، متضمنًا مسارًا أسرع لأخذ عينات top-k في الواجهة الخلفية Hexagon. وتختار هذه الطريقة من بين الخيارات الأعلى تسجيلًا عند توليد النص.
يستهدف التغيير قيم k من 2 إلى 64، والصفوف التي يزيد عرضها على 1,024 مدخلًا. ويتجاوز فرز الكتل التي لا يمكن أن تحتوي على نتيجة ضمن الأعلى، لكن الإصدار لا يورد قياسات للتسريع.
لماذا يهم
يحصل مستخدمو llama.cpp على عتاد Hexagon المدعوم على طريقة أكثر كفاءة لأخذ العينات في هذه الحالات، لكن الإصدار لا يحدد مقدار التحسن الفعلي في السرعة.
