# Liquid AI brengt 24B LFM2.5-model uit in 6-bit MLX-formaat

> Het LFM2.5-model met 24 miljard parameters is nu beschikbaar als 6-bit MLX-versie, te gebruiken met mlx-lm 0.32.0 of nieuwer.

Oossa · 2026-10-13 · https://oossa.com/nl/liquid-ai-releases-24b-lfm2-5-model-in-mlx-6-bit-format-on-hugging-face

Liquid AI heeft een nieuwe versie van het model LFM2.5-24B-A2B op Hugging Face geplaatst. Het model is omgezet naar MLX-formaat en gekwantiseerd naar 6 bits per gewicht; de routeringspoorten van de MoE blijven op volledige precisie. Het model kan worden geladen met mlx-lm 0.32.0 of nieuwer. Oudere versies laden het model wel, maar routeren experts verkeerd. Het model gebruikt een chattemplate die lijkt op ChatML en ondersteunt het aanroepen van functies.

## De feiten

- Modelgrootte: 24 miljard parameters, met gewichten gekwantiseerd naar 6 bits (groepsgrootte 64).
- Vereist mlx-lm 0.32.0 of nieuwer; oudere versies routeren experts verkeerd.

## Waarom het ertoe doet

Ontwikkelaars kunnen een groot redeneermodel sneller op het apparaat uitvoeren, vooral op machines met Apple Silicon.

## Bronnen en referenties

1. [New model on Hugging Face: LiquidAI/LFM2.5-24B-A2B-MLX-6bit (text-generation)](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-6bit) – Liquid AI, 2026-10-12
2. [New model on Hugging Face: LiquidAI/LFM2.5-24B-A2B-MLX-5bit (text-generation)](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-5bit) – Liquid AI, 2026-10-12

Laatst bijgewerkt: 2026-10-13