llama.cpp项目于Oct 17, 2026发布b11703版本。该版本新增了可在Qualcomm的Hexagon NPU(HVX)上运行的向量化softplus函数。这个新辅助函数使用现有的Hexagon exp和log原语,因此计算方式与CPU版本相同。此次更新列在Android arm64构建项下,该构建支持Snapdragon CPU、Adreno GPU和Hexagon NPU。
为什么重要
开发者现在可以在配备Hexagon NPU的手机上更快地运行LLM推理,拓展llama.cpp在低功耗场景下的应用。