Oossa

llama.cpp يضيف نوى Metal لتسريع فك الترميز التخميني على M3 Ultra

يستخدم مشغّل النماذج اللغوية الكبيرة مفتوح المصدر الآن نوى جديدة لضرب المصفوفات على Apple Silicon، ما يقلّل زمن توليد الرموز لبعض النماذج المكمّمة.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر مشروع llama.cpp الإصدار b11404 في 5 أكتوبر 2026. ويضيف نوى Metal تنفّذ عمليات الضرب على عدة صفوف دفعة واحدة (من 2 إلى 16 صفًا) لمعالجات الرسوميات من Apple. تفك هذه النوى تكميم كل وزن مرة واحدة وتتشارك مجموعات SIMD العمل، ما يجعل فك الترميز التخميني على M3 Ultra أسرع من أسلوب ضرب المتجهات في المصفوفات السابق. ولا تُستخدم النوى الجديدة إلا على الأجهزة التي تدعم عائلة معالجات الرسوميات Apple7، وعندما يبلغ عدد الصفوف حدًا معينًا (مثل 6 صفوف لـF32). كما يضبط التغيير منطق دمج العمليات ويلغي دمج النسخ الدفعي الذي تسبب في مشكلات.

لماذا يهم

سيلاحظ مستخدمو أجهزة Apple Silicon الذين يشغّلون llama.cpp زمن استجابة أقل عند توليد النص باستخدام فك الترميز التخميني، ولا سيما على أجهزة M3 Ultra.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.