Oossa

llama.cpp b12549 يصلح معالجة الانتباه في Inkling2

يضيف التحديث إلى Inkling2 مُدخلًا مخصصًا للانتباه النسبي، ويصلح إعادة استخدام الأقنعة في نماذج الذاكرة الهجينة، ومنها LFM2 وLFM3.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر فريق ggml-org الإصدار llama.cpp b12549، متضمنًا إصلاحات لمعالجة قناع الانتباه في Inkling2، وهو نموذج يدعمه المشروع. ويوفر التحديث لـ Inkling2 مُدخلًا مخصصًا ينشئ قناع الانتباه الكثيف وانحياز الموضع النسبي انطلاقًا من الخلايا نفسها. كما يصلح إنشاء الأقنعة في نماذج الذاكرة الهجينة، وهي مشكلة كانت تمنع إعادة استخدام الرسم البياني مع ذاكرة موحّدة وانتباه فلاش، وأثرت في LFM2 وLFM3 وInkling2. ويتيح الإصدار أيضًا ضبط مقياس أوزان الخبراء وعتبة التشبّع النهائي للوجِتات في Inkling2 على صفر.

لماذا يهم

بالنسبة إلى من يشغّلون هذه النماذج ذات الذاكرة الهجينة على llama.cpp، تعالج الإصلاحات مشكلة كانت تمنع إعادة استخدام الرسم البياني مع ذاكرة موحّدة وانتباه فلاش؛ ولا تحدد ملاحظات الإصدار مقدار أي تحسن في السرعة.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.