أصدر مشروع llama.cpp تعديلًا على نواة معالجة الرسوميات يضيف مسارًا سريعًا لحجم حالة يبلغ 64. تستخدم Zamba2 وشرائح مشابهة هذا الحجم، وقبل التعديل كانت كل خطوة مسح تُنفَّذ على وحدة المعالجة المركزية، ما حدّ سرعة التوليد إلى نحو 6‑7 رموز في الثانية. يرفع القالب الجديد معدل المعالجة بنحو 35%، إذ زادت سرعة Zamba2‑7B‑Instruct على الأجهزة نفسها من 11 إلى 15.1 رمزًا في الثانية. مع ذلك، لا تزال بعض استدعاءات المسح (نحو 28%) تُنفَّذ على وحدة المعالجة المركزية، لذا لم يتحقق التكافؤ الكامل بعد.
لماذا يهم
يمكن للمطورين الذين يستخدمون وحدات Zamba2 توليد النصوص بسرعة أكبر بوضوح، من دون الحاجة إلى أجهزة إضافية.
