Oossa

llama.cpp 新版本为 Hexagon NPU 增加 IM2COL_3D 支持

2026年10月12日发布的更新加入 3D IM2COL 内核和 DMA 通路,扩展了 Qualcomm Hexagon 设备的硬件加速能力。

简讯作者: Oossa 发布日期: 1 分钟阅读

开源库 llama.cpp 于 2026年10月12日发布 b11560 版本。该版本为 Qualcomm 的 Hexagon NPU 增加 IM2COL_3D 支持,包括 DMA 通路,并修复了 FP16 处理问题。此次更新还移除了效率低下的循环,并改进了线程处理。新版提供多个平台的构建版本,涵盖 macOS 和 Windows CPU,以及搭载 Snapdragon CPU、Adreno GPU 和 Hexagon NPU 的 Android 设备。

为什么重要

开发者现在可以在配备 Hexagon NPU 的 Snapdragon 手机上更快地运行 llama.cpp 模型。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。