Oossa

llama.cpp يضيف نوى OpenCL لتسريع النماذج المكمّمة

تدعم مكتبة الاستدلال مفتوحة المصدر LLaMA الآن عمليات GEMM بتعليمات DP4A ونمط cooperative-k لتنسيقات q4_0 وq4_k وq6_k.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر مشروع ggml-org/llama.cpp الإصدار b11741 في 2026‑10‑19. ويضيف الإصدار نوى OpenCL جديدة تستخدم تعليمات DP4A لتسريع عمليات ضرب المصفوفات لثلاثة تنسيقات مكمّمة: q4_0 وq4_k وq6_k. كما يعالج مشكلة في المحاذاة، ويتضمن ملفات تنفيذية مُعدّة مسبقًا لأنظمة macOS (Apple Silicon وIntel) وعدة إصدارات من Ubuntu، بما في ذلك إصدارات Vulkan.

لماذا يهم

يمكن للمطورين تشغيل نماذج LLaMA بسرعة أكبر على وحدات معالجة الرسوميات المتوافقة مع OpenCL، ما يجعل الاستدلال محليًا أكثر عملية.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.