Проект llama.cpp выпустил версию b11811 22 октября 2026 года. Обновление добавляет ядра Q8_0 SVE dot-product GEMV и SVE i8mm GEMM, ускоряющие запуск квантованных моделей на ARM-процессорах. Для скачивания также доступны готовые сборки для macOS на Apple Silicon, Intel, iOS и нескольких вариантов Ubuntu (CPU, Vulkan, CUDA 12.8).
Почему это важно
Разработчики смогут быстрее запускать модели LLaMA на современных ARM-устройствах и графических процессорах под Linux — без написания собственного кода.