Oossa

llama.cpp新增Hexagon加速的softplus运算

开源库llama.cpp现已支持在Qualcomm Hexagon NPU上运行softplus激活函数,提升兼容Android设备的性能。

简讯作者: Oossa 发布日期: 1 分钟阅读

llama.cpp项目于Oct 17, 2026发布b11703版本。该版本新增了可在Qualcomm的Hexagon NPU(HVX)上运行的向量化softplus函数。这个新辅助函数使用现有的Hexagon exp和log原语,因此计算方式与CPU版本相同。此次更新列在Android arm64构建项下,该构建支持Snapdragon CPU、Adreno GPU和Hexagon NPU。

为什么重要

开发者现在可以在配备Hexagon NPU的手机上更快地运行LLM推理,拓展llama.cpp在低功耗场景下的应用。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。