# llama.cpp调整Hexagon闪存注意力切分方式

> b11868版将Hexagon闪存注意力的两个切分标志合并，并在KV头数未充分利用可用核心时加入团队切分。

Oossa · 2026-10-24 · https://oossa.com/zh/llama-cpp-changes-hexagon-flash-attention-splitting

ggml-org/llama.cpp b11868版调整了Hexagon处理多核HMX闪存注意力的方式。它将原先独立的`FA_HEAD_SPLIT`和`FA_SPLIT`设置合并为一个标志：`GGML_HEXAGON_FA_SPLIT`。

将该标志设为1后，任务可以按KV头切分；如果KV头数少于核心数，还可以按团队切分，让原本闲置的核心也参与工作。发行说明以在四个核心上运行、拥有两个KV头的Gemma 4为例。

## 事实

- 将`GGML_HEXAGON_FA_SPLIT`设为0时，仅按token切分；设为1时启用按头切分，并在需要时启用团队切分。
- 发行说明称，KV头均匀分布时采用普通的按头切分。

## 为什么重要

对于在Hexagon硬件上运行llama.cpp的用户，这项调整旨在让KV头数少于核心数时也能利用更多核心；发行说明没有量化性能提升幅度。

## 来源与参考

1. [ggml-org/llama.cpp b11868](https://github.com/ggml-org/llama.cpp/releases/tag/b11868) – llama.cpp, 2026-10-24

最后更新: 2026-10-24