Liquid AI опубликовала на Hugging Face новую версию модели LFM2.5‑24B‑A2B. Модель конвертирована в формат MLX и квантована до 6 бит на вес, а маршрутизирующие шлюзы MoE оставлены в полной точности. Для загрузки нужна mlx‑lm 0.32.0 или новее: более старые версии загружают модель, но неверно направляют запросы к экспертам. Модель использует шаблон чата, похожий на ChatML, и поддерживает вызов функций.
Почему это важно
Разработчики смогут быстрее запускать на устройстве крупную модель для рассуждений, особенно на компьютерах с Apple Silicon.
