أصدر فريق ggml‑org الإصدار b12329 من llama.cpp. ويضيف تحسينًا لـ CUDA يدمج معالجة مقياس الأوزان في عمليات الكتابة الخاصة بضرب المصفوفات، ما يسرّع التعامل مع نقاط التحقق بصيغة nvfp4. ويضم التحديث أيضًا ملفات تنفيذية جديدة جاهزة لأجهزة Apple Silicon وأجهزة Mac بمعالجات Intel ونظام iOS وعدة توزيعات من Linux. ويمكن تنزيل التغييرات من صفحة الإصدار على GitHub.
لماذا يهم
يستطيع المطورون تشغيل نماذج Llama بسرعة أكبر على وحدات معالجة الرسومات من NVIDIA، والاستفادة من ملفات تنفيذية جاهزة لمزيد من المنصات.
