أصدر فريق ggml-org الإصدار llama.cpp b12549، متضمنًا إصلاحات لمعالجة قناع الانتباه في Inkling2، وهو نموذج يدعمه المشروع. ويوفر التحديث لـ Inkling2 مُدخلًا مخصصًا ينشئ قناع الانتباه الكثيف وانحياز الموضع النسبي انطلاقًا من الخلايا نفسها. كما يصلح إنشاء الأقنعة في نماذج الذاكرة الهجينة، وهي مشكلة كانت تمنع إعادة استخدام الرسم البياني مع ذاكرة موحّدة وانتباه فلاش، وأثرت في LFM2 وLFM3 وInkling2. ويتيح الإصدار أيضًا ضبط مقياس أوزان الخبراء وعتبة التشبّع النهائي للوجِتات في Inkling2 على صفر.
لماذا يهم
بالنسبة إلى من يشغّلون هذه النماذج ذات الذاكرة الهجينة على llama.cpp، تعالج الإصلاحات مشكلة كانت تمنع إعادة استخدام الرسم البياني مع ذاكرة موحّدة وانتباه فلاش؛ ولا تحدد ملاحظات الإصدار مقدار أي تحسن في السرعة.