# Liquid AI выпустила 24B LFM2.5 в формате MLX с квантованием до 6 бит

> Модель LFM2.5 с 24 млрд параметров теперь доступна в версии MLX с квантованием до 6 бит. Для запуска нужна mlx‑lm 0.32.0 или новее.

Oossa · 2026-10-13 · https://oossa.com/ru/liquid-ai-releases-24b-lfm2-5-model-in-mlx-6-bit-format-on-hugging-face

Liquid AI опубликовала на Hugging Face новую версию модели LFM2.5‑24B‑A2B. Модель конвертирована в формат MLX и квантована до 6 бит на вес, а маршрутизирующие шлюзы MoE оставлены в полной точности. Для загрузки нужна mlx‑lm 0.32.0 или новее: более старые версии загружают модель, но неверно направляют запросы к экспертам. Модель использует шаблон чата, похожий на ChatML, и поддерживает вызов функций.

## Факты

- Размер модели: 24 млрд параметров; веса квантованы до 6 бит (размер группы — 64).
- Требуется mlx‑lm 0.32.0 или новее; более ранние версии неверно направляют запросы к экспертам.

## Почему это важно

Разработчики смогут быстрее запускать на устройстве крупную модель для рассуждений, особенно на компьютерах с Apple Silicon.

## Источники и ссылки

1. [New model on Hugging Face: LiquidAI/LFM2.5-24B-A2B-MLX-6bit (text-generation)](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-6bit) – Liquid AI, 2026-10-12
2. [New model on Hugging Face: LiquidAI/LFM2.5-24B-A2B-MLX-5bit (text-generation)](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-5bit) – Liquid AI, 2026-10-12

Обновлено: 2026-10-13