پروژه llama.cpp در نسخه b11709 پشتیبانی از Kolibri-1، مدل استدلالی آلمانی و انگلیسی شرکت Aleph Alpha، را اضافه کرد. این مدل 78 میلیارد پارامتر دارد که برای هر توکن 3.46 میلیارد از آنها فعال است و از معماری ترکیب متخصصان استفاده میکند.
این بهروزرسانی پشتیبانی از تبدیل و اجرای معماری مدل Kolibri-1، از جمله توجه پنجرهای لغزان و قالب چکپوینت FP8، را شرح میدهد. جزئیاتی درباره دانلود ارائه نمیکند و نمیگوید مدل روی چه دستگاههایی قابل اجراست.
چرا مهم است
افرادی که از llama.cpp استفاده میکنند ممکن است بتوانند با این پروژه سراغ Kolibri-1 بروند، اما یادداشتهای انتشار مشخص نمیکنند وزنهای مدل را از کجا میتوان تهیه کرد یا به چه سختافزاری نیاز است.