أصدر فريق ggml-org الإصدار b12074 من llama.cpp، متضمنًا تغييرات على حالة الالتفاف في دلتا-نت. يجعل التحديث مؤشر خانة التراجع قيمة إدخال من النوع I32 يملؤها المضيف، بدلًا من إنشائه على الجهاز باستخدام عمليتي arange وargsort.
وتفيد ملاحظات الإصدار بأن المؤشر ثابت لكل شكل من أشكال الرسم البياني، وأن التغيير يلغي حاجة الواجهة الخلفية للبيانات الوصفية إلى محاكاة تقسيم arange. ولا تذكر الملاحظات أي تحسن مقاس في السرعة أو استهلاك الذاكرة.
لماذا يهم
قد يلاحظ من يشغّلون نماذج llama.cpp التي تستخدم دلتا-نت تغييرًا في عملية حساب داخلية، لكن ملاحظات الإصدار لا تثبت ما إذا كان ذلك يحسّن الأداء عمليًا.
