Oossa

پشتیبانی llama.cpp از مدل Kolibri-1 شرکت Aleph Alpha

نسخه b11709 پشتیبانی از مدل استدلالی آلمانی-انگلیسی با 78 میلیارد پارامتر را اضافه می‌کند. در به‌روزرسانی مشخص نشده وزن‌های مدل را از کجا می‌توان تهیه کرد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پروژه llama.cpp در نسخه b11709 پشتیبانی از Kolibri-1، مدل استدلالی آلمانی و انگلیسی شرکت Aleph Alpha، را اضافه کرد. این مدل 78 میلیارد پارامتر دارد که برای هر توکن 3.46 میلیارد از آن‌ها فعال است و از معماری ترکیب متخصصان استفاده می‌کند.

این به‌روزرسانی پشتیبانی از تبدیل و اجرای معماری مدل Kolibri-1، از جمله توجه پنجره‌ای لغزان و قالب چک‌پوینت FP8، را شرح می‌دهد. جزئیاتی درباره دانلود ارائه نمی‌کند و نمی‌گوید مدل روی چه دستگاه‌هایی قابل اجراست.

چرا مهم است

افرادی که از llama.cpp استفاده می‌کنند ممکن است بتوانند با این پروژه سراغ Kolibri-1 بروند، اما یادداشت‌های انتشار مشخص نمی‌کنند وزن‌های مدل را از کجا می‌توان تهیه کرد یا به چه سخت‌افزاری نیاز است.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.