llama.cpp项目发布了新版本，新增对Qualcomm Hexagon NPU上SSM_SCAN操作的支持。此次更新包含内核优化、DMA流水线调整和HMX支持，还扩展了平台构建选项，加入CUDA 13以及新的Snapdragon CPU-GPU-NPU配置。该改动由Qualcomm的Max Krasnyansky共同撰写。
为什么重要
开发者可以在搭载Hexagon NPU的Snapdragon手机上更快地运行llama.cpp模型。
llama.cpp新增对Hexagon SSM_SCAN操作的支持
开源库llama.cpp现已支持在Qualcomm Hexagon NPU上运行SSM_SCAN操作，可提升Snapdragon设备的性能。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。