Oossa

llama.cpp يدعم BF16 في RMS_NORM على CPU وCUDA

تدعم مكتبة Llama مفتوحة المصدر للاستدلال الآن دقة BF16 في عملية RMS_NORM، مع ملفات تنفيذية لنظام macOS وiOS وLinux.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر فريق ggml‑org الإصدار b12366 من llama.cpp في 2026‑11‑13. ويضيف التحديث دعم BF16 (صيغة فاصلة عائمة بدقة 16 بت) إلى طبقة RMS_NORM على كل من الواجهة الخلفية لـCPU وCUDA. وتستخدم الآن دالة مساعدة واحدة لتشغيل نوى RMS_NORM بصيغتي F32 وBF16. تتوفر للتنزيل ملفات تنفيذية مُعدّة مسبقًا لأجهزة Apple Silicon وIntel التي تعمل بنظام macOS، وكذلك iOS وعدة إصدارات من Ubuntu.

لماذا يهم

يمكن للمطورين تشغيل نماذج Llama بسرعة أكبر على الأجهزة التي تفضّل BF16، مع تقليل استخدام الذاكرة من دون خسارة كبيرة في الدقة.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.