# Liquid AI 在 Hugging Face 发布 24B LFM2.5 的 MLX 6 位版本

> 24 billion 参数的 LFM2.5 模型现已推出 MLX 6 位版本，可通过 mlx‑lm 0.32.0 或更高版本运行。

Oossa · 2026-10-13 · https://oossa.com/zh/liquid-ai-releases-24b-lfm2-5-model-in-mlx-6-bit-format-on-hugging-face

Liquid AI 在 Hugging Face 发布了 LFM2.5‑24B‑A2B 模型的新版本。该模型已转换为 MLX 格式，并量化为每个权重 6 位，同时 MoE 路由门保持全精度。它可通过 mlx‑lm 0.32.0 或更高版本加载；旧版本虽然能加载模型，但会错误地路由专家。该模型采用类似 ChatML 的对话模板，并支持函数调用。

## 事实

- 模型规模：24 billion 参数，权重量化为 6 位（分组大小为 64）。
- 需要 mlx‑lm 0.32.0 或更高版本；旧版本会错误地路由专家。

## 为什么重要

开发者可以在设备上更快地运行大型推理模型，尤其是在 Apple Silicon 设备上。

## 来源与参考

1. [New model on Hugging Face: LiquidAI/LFM2.5-24B-A2B-MLX-6bit (text-generation)](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-6bit) – Liquid AI, 2026-10-12
2. [New model on Hugging Face: LiquidAI/LFM2.5-24B-A2B-MLX-5bit (text-generation)](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-5bit) – Liquid AI, 2026-10-12

最后更新: 2026-10-13