# llama.cpp b12094 加快 Hexagon 上的 top-k 采样

> llama.cpp 新版本调整了 Hexagon 硬件上的 top-k 采样方式，通过扫描跳过不可能入选的区块。发布说明未提供提速数据。

Oossa · 2026-11-04 · https://oossa.com/zh/llama-cpp-b12094-speeds-up-hexagon-top-k-sampling

ggml-org 团队于 2026 年 11 月 4 日发布 llama.cpp b12094，为 Hexagon 后端加入了更快的 top-k 采样路径。生成文本时，top-k 采样会从得分最高的选项中进行选择。

这项改动适用于 k 值为 2 到 64、且行宽超过 1,024 个条目的情况。它会跳过不可能包含最终结果的区块，从而避免对这些区块排序，但发布说明没有给出实测提速数据。

## 事实

- 新路径使用 Hexagon 向量最大值运算筛查每个包含 256 个值的区块。
- 该功能适用于单行和多行处理。

## 为什么重要

在受支持的 Hexagon 硬件上运行 llama.cpp 的用户，可在这些场景中使用更高效的采样方法；不过，发布说明没有量化实际使用中的提速幅度。

## 来源与参考

1. [ggml-org/llama.cpp b12094](https://github.com/ggml-org/llama.cpp/releases/tag/b12094) – llama.cpp, 2026-11-04

最后更新: 2026-11-04