开源库 llama.cpp 于 2026年10月12日发布 b11560 版本。该版本为 Qualcomm 的 Hexagon NPU 增加 IM2COL_3D 支持,包括 DMA 通路,并修复了 FP16 处理问题。此次更新还移除了效率低下的循环,并改进了线程处理。新版提供多个平台的构建版本,涵盖 macOS 和 Windows CPU,以及搭载 Snapdragon CPU、Adreno GPU 和 Hexagon NPU 的 Android 设备。
为什么重要
开发者现在可以在配备 Hexagon NPU 的 Snapdragon 手机上更快地运行 llama.cpp 模型。