Liquid AI、24BモデルをMLX 6ビット版でHugging Faceに公開

Liquid AIは、LFM2.5-24B-A2Bモデルの新バージョンをHugging Faceに公開しました。モデルはMLX形式に変換され、重みは6ビットに量子化されていますが、MoEのルーティングゲートはフル精度を維持しています。mlx-lm 0.32.0以降で読み込めます。旧バージョンでもモデル自体は読み込めますが、エキスパートへのルーティングが正しく行われません。ChatMLに似たチャットテンプレートを採用し、関数呼び出しにも対応しています。