ggml-org/llama.cpp b11868版调整了Hexagon处理多核HMX闪存注意力的方式。它将原先独立的`FA_HEAD_SPLIT`和`FA_SPLIT`设置合并为一个标志:`GGML_HEXAGON_FA_SPLIT`。
将该标志设为1后,任务可以按KV头切分;如果KV头数少于核心数,还可以按团队切分,让原本闲置的核心也参与工作。发行说明以在四个核心上运行、拥有两个KV头的Gemma 4为例。
为什么重要
对于在Hexagon硬件上运行llama.cpp的用户,这项调整旨在让KV头数少于核心数时也能利用更多核心;发行说明没有量化性能提升幅度。