أضاف مشروع llama.cpp دعمًا لنموذج Kolibri-1، وهو نموذج استدلال باللغة الألمانية والإنجليزية من Aleph Alpha، وذلك في الإصدار b11709. ويضم النموذج 78 مليار مُعامل، ينشط منها 3.46 مليار مع كل رمز، ويعتمد تصميم مزيج الخبراء.
يوضح التحديث دعم تحويل بنية نموذج Kolibri-1 وتشغيلها، بما يشمل الانتباه ذي النافذة المنزلقة وتنسيق نقاط التحقق FP8. لكنه لا يقدم تفاصيل عن التنزيل، ولا يذكر الأجهزة التي يمكنها تشغيل النموذج.
لماذا يهم
قد يتمكن مستخدمو llama.cpp من استخدام Kolibri-1 عبر المشروع، لكن ملاحظات الإصدار لا توضح من أين يمكن الحصول على أوزان النموذج أو ما العتاد المطلوب لتشغيله.
