Oossa

llama.cpp يضيف نوى OpenCL لأحمال الدُفعات الصغيرة

تضم مكتبة Llama مفتوحة المصدر الآن عدة نسخ محسّنة من GEMM عبر OpenCL، لتشغيل أحمال بدُفعات صغيرة، مع توسيع دعمها لوحدات معالجة الرسوميات Snapdragon.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر مشروع ggml‑org/llama.cpp تحديثًا (b11763) في 2026‑10‑21. ويضيف التحديث مجموعة من نوى OpenCL التي تسرّع عمليات ضرب المصفوفات بدُفعات صغيرة، منها q4_k dp4a GEMM ونسخة ضيقة النطاق من mul_mm_f16_f32. كما تصلح التغييرات خطأً في قراءة بيانات خارج حدود الذاكرة، وتزيل شرطًا غير ضروري للرجوع إلى المعالجة عبر CPU. تعمل المكتبة بالفعل على منصات كثيرة، من أجهزة Apple Silicon بنظام macOS إلى CUDA على Windows وVulkan على Linux، وأصبحت الآن تدعم على نحو أفضل معالجات Snapdragon ووحدات معالجة الرسوميات Adreno ووحدات Hexagon NPU.

لماذا يهم

يمكن للمطورين تشغيل نماذج Llama بسرعة أكبر على أجهزة Android المزودة بشرائح Snapdragon، ما يجعل استخدام الذكاء الاصطناعي على الجهاز أكثر عملية.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.