Oossa

llama.cpp b11809 يضيف دعم WebGPU لـ Q2_0

يضيف إصدار llama.cpp عمليات فك التكميم للصفوف وضرب المصفوفات بتنسيق Q2_0 إلى واجهة WebGPU الخلفية، من دون تقديم أرقام للأداء في ملاحظات الإصدار.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر فريق ggml-org النسخة llama.cpp b11809، مضيفًا دعم Q2_0 إلى واجهة WebGPU الخلفية. ويشمل التغيير فك التكميم للصفوف وضرب المصفوفات، وفقًا لملاحظات الإصدار. لكنها لا تتضمن نتائج عن السرعة أو توافق الأجهزة أو استهلاك الذاكرة، لذا يظل أثر التغيير على الأداء الفعلي غير واضح.

لماذا يهم

يمكن للمطورين الذين يستخدمون llama.cpp مع WebGPU تجربة نماذج Q2_0، لكن ملاحظات الإصدار لا توضح مدى كفاءتها على أجهزة بعينها.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.