# Liquid AI veröffentlicht 24B-LFM2.5-Modell im 6-Bit-MLX-Format auf Hugging Face

> Das LFM2.5-Modell mit 24 Milliarden Parametern ist jetzt als 6-Bit-MLX-Version verfügbar und lässt sich mit mlx-lm 0.32.0 oder neuer ausführen.

Oossa · 2026-10-13 · https://oossa.com/de/liquid-ai-releases-24b-lfm2-5-model-in-mlx-6-bit-format-on-hugging-face

Liquid AI hat auf Hugging Face eine neue Version seines Modells LFM2.5‑24B‑A2B veröffentlicht. Das Modell wurde ins MLX-Format konvertiert und auf 6 Bit pro Gewicht quantisiert; die MoE-Routing-Gates bleiben dabei vollpräzise. Es lässt sich mit mlx‑lm 0.32.0 oder neuer laden. Ältere Versionen laden das Modell zwar, leiten die Anfragen aber an die falschen Experten weiter. Das Modell verwendet eine Chat-Vorlage ähnlich wie ChatML und unterstützt Function Calling.

## Die Fakten

- Modellgröße: 24 Milliarden Parameter, auf 6-Bit-Gewichte quantisiert (Gruppengröße 64).
- Erfordert mlx‑lm 0.32.0 oder neuer; ältere Versionen leiten Anfragen an die falschen Experten weiter.

## Warum es wichtig ist

Entwickler können ein großes Reasoning-Modell schneller direkt auf dem Gerät ausführen, insbesondere auf Rechnern mit Apple Silicon.

## Quellen und Referenzen

1. [New model on Hugging Face: LiquidAI/LFM2.5-24B-A2B-MLX-6bit (text-generation)](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-6bit) – Liquid AI, 2026-10-12
2. [New model on Hugging Face: LiquidAI/LFM2.5-24B-A2B-MLX-5bit (text-generation)](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-5bit) – Liquid AI, 2026-10-12

Zuletzt aktualisiert: 2026-10-13