Liquid AI ha pubblicato su Hugging Face una nuova versione del modello LFM2.5‑24B‑A2B. Il modello è convertito in formato MLX e quantizzato a 6 bit per peso, mentre i gate di instradamento MoE mantengono la precisione completa. È possibile caricarlo con mlx‑lm 0.32.0 o versioni successive; le versioni precedenti caricano il modello, ma instradano gli esperti in modo errato. Il modello usa un template di chat simile a ChatML e supporta le chiamate a funzione.
Perché conta
Gli sviluppatori possono eseguire più velocemente sul dispositivo un modello di ragionamento di grandi dimensioni, soprattutto sui computer con Apple Silicon.
