Библиотека с открытым исходным кодом llama.cpp выпустила версию b11680 16 октября 2026 года. В обновлении существенно переработан код для NPU Hexagon: удалён обходной приём, добавлена перепаковка тензоров для весов F16/F32/BF16, а также поддержка tiled Q5_K get-rows и тензоров raw k-quant. Кроме того, упрощён ряд внутренних ядер и повышена производительность на нескольких платформах, включая CPU, CUDA, Vulkan и устройства с поддержкой Hexagon. Проект предлагает сборки для macOS, Linux, Android, Windows и нескольких конфигураций openEuler.
Почему это важно
Разработчики смогут эффективнее запускать модели llama.cpp на телефонах с Hexagon и другом специализированном оборудовании.
