Liquid AI a publié sur Hugging Face une nouvelle version de son modèle LFM2.5‑24B‑A2B. Converti au format MLX, il est quantifié à 6 bits par poids, tandis que les portes de routage MoE restent en pleine précision. Il peut être chargé avec mlx‑lm 0.32.0 ou une version ultérieure ; les versions précédentes chargent le modèle, mais acheminent mal les experts. Le modèle utilise un format de conversation proche de ChatML et prend en charge l’appel de fonctions.
Pourquoi c'est important
Les développeurs peuvent exécuter plus rapidement sur leur appareil un grand modèle de raisonnement, notamment sur les machines équipées d’Apple Silicon.
