# Liquid AI släpper LFM2.5 på 24B i MLX-format med 6-bitarskvantisering

> LFM2.5-modellen med 24 miljarder parametrar finns nu i en MLX-version med 6 bitar och kan köras med mlx-lm 0.32.0 eller senare.

Oossa · 2026-10-13 · https://oossa.com/sv/liquid-ai-releases-24b-lfm2-5-model-in-mlx-6-bit-format-on-hugging-face

Liquid AI har publicerat en ny version av sin LFM2.5‑24B‑A2B-modell på Hugging Face. Modellen har konverterats till MLX-format och kvantiserats till 6 bitar per vikt, medan MoE-modellens routningsgrindar behåller full precision. Den kan läsas in med mlx‑lm 0.32.0 eller senare; äldre versioner läser in modellen men dirigerar experterna fel. Modellen använder en chattmall som liknar ChatML och stöder funktionsanrop.

## Fakta

- Modellstorlek: 24 miljarder parametrar, kvantiserade vikter med 6 bitar (gruppstorlek 64).
- Kräver mlx‑lm 0.32.0 eller senare; äldre versioner dirigerar experterna fel.

## Varför det spelar roll

Utvecklare kan köra en stor resonemangsmodell snabbare direkt på enheten, särskilt på Apple Silicon-datorer.

## Källor och referenser

1. [New model on Hugging Face: LiquidAI/LFM2.5-24B-A2B-MLX-6bit (text-generation)](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-6bit) – Liquid AI, 2026-10-12
2. [New model on Hugging Face: LiquidAI/LFM2.5-24B-A2B-MLX-5bit (text-generation)](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-5bit) – Liquid AI, 2026-10-12

Senast uppdaterad: 2026-10-13