Het llama.cpp-project bracht op Oct 17, 2026 versie b11703 uit. Die voegt een gevectoriseerde softplus-functie toe die draait op Qualcomm’s Hexagon-NPU (HVX). De nieuwe helper gebruikt bestaande Hexagon-primitieven voor exp en log, zodat de berekening hetzelfde blijft als in de CPU-versie. De wijziging staat vermeld bij de Android arm64-build, die Snapdragon-processors, Adreno-gpu’s en Hexagon-NPU’s ondersteunt.
Waarom het ertoe doet
Ontwikkelaars kunnen nu LLM-inferentie sneller uitvoeren op telefoons met Hexagon-NPU’s, waardoor llama.cpp ook voor energiezuinige toepassingen geschikt is.
