17 октября 2026 года проект llama.cpp выпустил версию b11703. В ней появилась векторизованная функция softplus, которая выполняется на NPU Qualcomm Hexagon (HVX). Новый вспомогательный компонент использует уже имеющиеся в Hexagon операции exp и log, поэтому математические вычисления остаются такими же, как в версии для CPU. Изменение указано в разделе сборки для Android arm64, поддерживающей процессоры Snapdragon, графические процессоры Adreno и NPU Hexagon.
Почему это важно
Разработчики смогут быстрее запускать инференс LLM на телефонах с NPU Hexagon, расширяя возможности llama.cpp для энергоэффективного использования.
