Oossa

Liquid AI تطرح نموذج LFM2.5 بحجم 24B بصيغة MLX ذات 6 بتات

أصبح نموذج LFM2.5 ذي 24 مليار مُعامل متاحًا الآن بإصدار MLX بدقة 6 بتات، ويمكن تشغيله باستخدام mlx‑lm 0.32.0 أو إصدار أحدث.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

نشرت Liquid AI إصدارًا جديدًا من نموذج LFM2.5‑24B‑A2B على Hugging Face. حُوِّل النموذج إلى صيغة MLX وخُفِّضت دقة أوزانه إلى 6 بتات، مع الإبقاء على بوابات توجيه الخبراء في بنية MoE بدقة كاملة. ويمكن تحميله باستخدام mlx‑lm 0.32.0 أو إصدار أحدث؛ أما الإصدارات الأقدم فتحمّل النموذج لكنها توجّه الخبراء على نحو غير صحيح. ويستخدم النموذج قالب محادثة شبيهًا بـ ChatML، ويدعم استدعاء الوظائف.

لماذا يهم

يتيح ذلك للمطورين تشغيل نموذج استدلال كبير بسرعة أكبر على الجهاز، ولا سيما على أجهزة Apple Silicon.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.