Liquid AI ने Hugging Face पर अपने LFM2.5‑24B‑A2B मॉडल का नया संस्करण जारी किया है। मॉडल को MLX फ़ॉर्मैट में बदला गया है और हर वेट को 6 बिट में क्वांटाइज़ किया गया है, जबकि MoE रूटिंग गेट्स को फ़ुल-प्रिसिशन में रखा गया है। इसे mlx‑lm 0.32.0 या नए संस्करण में लोड किया जा सकता है; पुराने संस्करण मॉडल को लोड तो कर लेते हैं, लेकिन एक्सपर्ट्स को गलत तरीके से रूट करते हैं। मॉडल ChatML जैसा चैट टेम्पलेट इस्तेमाल करता है और फ़ंक्शन कॉलिंग को सपोर्ट करता है।
यह क्यों मायने रखता है
डेवलपर बड़े रीजनिंग मॉडल को डिवाइस पर तेज़ी से चला सकते हैं, खासकर Apple Silicon मशीनों पर।
