Oossa

llama.cpp b12099 يضيف دعم Lightning Indexer على Hexagon

يضيف الإصدار دعمًا أوليًا لعملية Lightning Indexer على أجهزة Hexagon، بما في ذلك مسارات HMX للمعالجة المسبقة وفك الترميز.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

يضيف الإصدار b12099 من مشروع llama.cpp دعمًا أوليًا لعملية Lightning Indexer على أجهزة Hexagon. وتشمل التغييرات مسارات تسريع HMX للمعالجة المسبقة وفك الترميز، إلى جانب دعم تجميع فك الترميز بصيغة q8_0 ومدخلات q4_0. وتعرض صفحة الإصدار نسخًا مبنية لأنظمة Linux وAndroid على أجهزة Snapdragon، تستخدم وحدة المعالجة المركزية ووحدة معالجة الرسوميات Adreno ووحدة المعالجة العصبية Hexagon؛ كما تتضمن روابط إلى أدلة الإعداد.

لماذا يهم

يمكن للمطورين الذين يستخدمون llama.cpp على أجهزة Snapdragon تجربة مسار Hexagon الجديد، لكن ملاحظات الإصدار لا تتضمن أرقامًا للأداء أو تفاصيل عن توافق النماذج.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.