Liquid AI har publicerat en ny version av sin LFM2.5‑24B‑A2B-modell på Hugging Face. Modellen har konverterats till MLX-format och kvantiserats till 6 bitar per vikt, medan MoE-modellens routningsgrindar behåller full precision. Den kan läsas in med mlx‑lm 0.32.0 eller senare; äldre versioner läser in modellen men dirigerar experterna fel. Modellen använder en chattmall som liknar ChatML och stöder funktionsanrop.
Varför det spelar roll
Utvecklare kan köra en stor resonemangsmodell snabbare direkt på enheten, särskilt på Apple Silicon-datorer.
