Liquid AI hat auf Hugging Face eine neue Version seines Modells LFM2.5‑24B‑A2B veröffentlicht. Das Modell wurde ins MLX-Format konvertiert und auf 6 Bit pro Gewicht quantisiert; die MoE-Routing-Gates bleiben dabei vollpräzise. Es lässt sich mit mlx‑lm 0.32.0 oder neuer laden. Ältere Versionen laden das Modell zwar, leiten die Anfragen aber an die falschen Experten weiter. Das Modell verwendet eine Chat-Vorlage ähnlich wie ChatML und unterstützt Function Calling.
Warum es wichtig ist
Entwickler können ein großes Reasoning-Modell schneller direkt auf dem Gerät ausführen, insbesondere auf Rechnern mit Apple Silicon.
