يلغي إصدار llama.cpp b11866 من فريق ggml-org خطوة إعادة تحجيم بقوة للعدد 2 من نواة لضرب المصفوفات في Metal، تُستخدم مع نماذج مزيج الخبراء. ويقول المشروع إن تحجيم كل رمز خبير في مخطط الحوسبة يحافظ الآن على تنشيطات الإسقاط الهابط ضمن النطاق الذي يدعمه f16 قبل تنفيذ العملية.
ويؤدي هذا التغيير أيضًا إلى حذف نوى الاختزال ذات المرحلتين ومخزنها المؤقت ومسار الإرسال f32، إلى جانب الاختبارات الخاصة بالمدخلات التي تجاوزت نطاق f16. ويسرد الإصدار إصدارات لأنظمة macOS على Apple Silicon، فضلًا عن منصات أخرى كثيرة؛ لكنه لا يورد أي قياسات للسرعة أو الدقة.
لماذا يهم
بالنسبة إلى مستخدمي llama.cpp الذين يشغّلون نماذج مزيج الخبراء على Metal، تعتمد النواة الآن على التحجيم المنفّذ في مرحلة أسبق من مخطط الحوسبة؛ ولا يذكر الإصدار ما إذا كان ذلك سيغيّر السرعة أو جودة المخرجات.
