ggml-org выпустила llama.cpp версии b12088. В обновлении появилась поддержка формата модели NVFP4 LFM3, а также готовые сборки для Apple Silicon, Intel Mac, iOS и нескольких конфигураций Ubuntu — в том числе только для CPU и с Vulkan. Сборка для Apple Silicon с KleidiAI указана в списке, но пока отключена. Все файлы доступны на странице релиза на GitHub.
Почему это важно
Теперь разработчики могут запускать llama.cpp с новым форматом модели и использовать готовые сборки для большего числа платформ, экономя время на настройке.
