أصدر فريق ggml‑org الإصدار b11789 من llama.cpp. يضيف التحديث نسخًا من GEMM (ضرب المصفوفات) بتقنية dp4a لـOpenCL، مع تحميل متجهات التنشيط، ويعيد تسمية النوى ومتغيرات البيئة ذات الصلة. وأصبحت الملفات الثنائية الجاهزة متاحة الآن لأجهزة Apple Silicon، وأجهزة Mac بمعالجات Intel، ونظام iOS، وعدة إصدارات من Ubuntu (CPU وVulkan وCUDA). وتهدف التغييرات إلى تحسين الأداء على وحدات معالجة الرسوميات التي تدعم تعليمة dp4a.
لماذا يهم
يمكن للمطورين تشغيل llama.cpp بسرعة أكبر على وحدات معالجة الرسوميات المتوافقة، ما يقلل زمن الاستدلال في تطبيقات نماذج اللغة الكبيرة المحلية.
