Oossa

llama.cpp b11516 修复 Hexagon DMA 溢出问题

这款开源 LLM 运行时现会在 Qualcomm Hexagon NPU 上清理旧 DMA 描述符,避免输出 NaN。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml‑org/llama.cpp 项目于 2026‑10‑09 发布 b11516 版本。此次更新修复了 Hexagon NPU 路径中的一个漏洞:DMA 环形队列可能溢出,导致数据过时并产生 NaN/inf 结果。现在,队列满时会丢弃最旧的描述符,之后再刷新队列。涉及大型 patch‑embed 操作的测试用例现已能在 Hexagon 硬件上通过。

为什么重要

在 Qualcomm Hexagon 设备上使用 llama.cpp 的开发者将获得正确的模型输出,不再遇到错误的 NaN 结果。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。