Projektet llama.cpp släppte version b11703 den 17 okt 2026. Den innehåller en vektoriserad softplus-funktion som körs på Qualcomms Hexagon-NPU (HVX). Den nya hjälpfunktionen använder befintliga Hexagon-primitiver för exp och log, så matematiken är densamma som i CPU-versionen. Ändringen anges under Android arm64-bygget, som stöder Snapdragon-processorer, Adreno-GPU:er och Hexagon-NPU:er.
Varför det spelar roll
Utvecklare kan nu köra inferens med stora språkmodeller snabbare på telefoner med Hexagon-NPU:er, vilket utökar llama.cpp:s användningsområden med låg strömförbrukning.
