Oossa

llama.cpp يدعم عملية SSM_SCAN على Hexagon

أضافت مكتبة llama.cpp مفتوحة المصدر دعم عملية SSM_SCAN على وحدة المعالجة العصبية Hexagon من Qualcomm، ما يحسّن الأداء على أجهزة Snapdragon.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر مشروع llama.cpp إصدارًا جديدًا يضيف دعم عملية SSM_SCAN على وحدة المعالجة العصبية Hexagon من Qualcomm. ويتضمن التحديث تحسينات للنواة، وتعديلات على مسار DMA، ودعم HMX. كما يوسّع خيارات البناء للمنصات، بإضافة CUDA 13 وتكوينات جديدة لوحدات CPU وGPU وNPU في Snapdragon. وشارك Max Krasnyansky من Qualcomm في كتابة التغيير.

لماذا يهم

يمكن للمطورين تشغيل نماذج llama.cpp بسرعة أكبر على هواتف Snapdragon المزودة بوحدات معالجة عصبية Hexagon.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.