# Liquid AI का 24B LFM2.5 मॉडल अब Hugging Face पर 6-बिट MLX में

> 24 अरब पैरामीटर वाला LFM2.5 मॉडल अब 6-बिट MLX संस्करण में उपलब्ध है। इसे mlx‑lm 0.32.0 या उसके बाद के संस्करण पर चलाया जा सकता है।

Oossa · 2026-10-13 · https://oossa.com/hi/liquid-ai-releases-24b-lfm2-5-model-in-mlx-6-bit-format-on-hugging-face

Liquid AI ने Hugging Face पर अपने LFM2.5‑24B‑A2B मॉडल का नया संस्करण जारी किया है। मॉडल को MLX फ़ॉर्मैट में बदला गया है और हर वेट को 6 बिट में क्वांटाइज़ किया गया है, जबकि MoE रूटिंग गेट्स को फ़ुल-प्रिसिशन में रखा गया है। इसे mlx‑lm 0.32.0 या नए संस्करण में लोड किया जा सकता है; पुराने संस्करण मॉडल को लोड तो कर लेते हैं, लेकिन एक्सपर्ट्स को गलत तरीके से रूट करते हैं। मॉडल ChatML जैसा चैट टेम्पलेट इस्तेमाल करता है और फ़ंक्शन कॉलिंग को सपोर्ट करता है।

## तथ्य

- मॉडल का आकार: 24 अरब पैरामीटर; वेट 6-बिट में क्वांटाइज़ किए गए हैं (ग्रुप साइज़ 64)।
- इसके लिए mlx‑lm 0.32.0 या नया संस्करण चाहिए; पुराने संस्करण एक्सपर्ट्स को गलत तरीके से रूट करते हैं।

## यह क्यों मायने रखता है

डेवलपर बड़े रीजनिंग मॉडल को डिवाइस पर तेज़ी से चला सकते हैं, खासकर Apple Silicon मशीनों पर।

## स्रोत और संदर्भ

1. [New model on Hugging Face: LiquidAI/LFM2.5-24B-A2B-MLX-6bit (text-generation)](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-6bit) – Liquid AI, 2026-10-12
2. [New model on Hugging Face: LiquidAI/LFM2.5-24B-A2B-MLX-5bit (text-generation)](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-5bit) – Liquid AI, 2026-10-12

अंतिम अपडेट: 2026-10-13