# llama.cpp、HexagonのFlash Attention分割方式を変更

> リリースb11868でHexagonのFlash Attention用分割フラグを統合。KVヘッドが利用可能なコア数に満たない場合は、チーム分割も追加された。

Oossa · 2026-10-24 · https://oossa.com/ja/llama-cpp-changes-hexagon-flash-attention-splitting

ggml-org/llama.cppのリリースb11868では、HexagonのマルチコアHMX Flash Attentionの処理方法が変更された。従来の個別設定`FA_HEAD_SPLIT`と`FA_SPLIT`に代わり、フラグ`GGML_HEXAGON_FA_SPLIT`が1つ設けられた。

このフラグを1にすると、KVヘッド間で処理を分割できる。KVヘッド数がコア数を下回る場合は、チーム間でも分割し、それまで使われていなかったコアも処理に参加できる。リリースでは、4コアでKVヘッドが2つのGemma 4が例として挙げられている。

## 事実

- `GGML_HEXAGON_FA_SPLIT`を0にするとトークン分割のみが有効になり、1にするとヘッド分割が有効になる。必要に応じてチーム分割も行われる。
- リリースノートによると、ヘッド数が均等に分散される場合は通常のヘッド分割が使われる。

## なぜ重要か

Hexagon搭載ハードウェアでllama.cppを実行するユーザーにとって、この変更はモデルのKVヘッド数がコア数を下回る場合にも各コアを処理に参加させることを目的としている。リリースノートには、速度向上の定量的な数値は示されていない。

## 出典と参考資料

1. [ggml-org/llama.cpp b11868](https://github.com/ggml-org/llama.cpp/releases/tag/b11868) – llama.cpp, 2026-10-24

最終更新: 2026-10-24
