# llama.cpp меняет разбиение flash attention на Hexagon

> В релизе b11868 объединены два флага разбиения flash attention на Hexagon и добавлено разбиение по командам, если KV-головы не задействуют все доступные ядра.

Oossa · 2026-10-24 · https://oossa.com/ru/llama-cpp-changes-hexagon-flash-attention-splitting

В релизе ggml-org/llama.cpp b11868 изменён принцип работы многопоточного HMX flash attention на Hexagon. Два отдельных параметра — `FA_HEAD_SPLIT` и `FA_SPLIT` — заменены одним флагом `GGML_HEXAGON_FA_SPLIT`.

При значении 1 задачи можно распределять между KV-головами, а если их меньше, чем ядер, — ещё и между командами, чтобы задействовать простаивающие ядра. В релизе в качестве примера приводится Gemma 4 с двумя KV-головами на четырёх ядрах.

## Факты

- При значении `GGML_HEXAGON_FA_SPLIT` 0 сохраняется только разбиение по токенам; значение 1 включает разбиение по головам и, когда это необходимо, по командам.
- В примечаниях к релизу указано, что если головы распределены равномерно, используется обычное разбиение по головам. 

## Почему это важно

Для тех, кто запускает llama.cpp на оборудовании Hexagon, это изменение призвано задействовать ядра, которые простаивали бы из-за того, что KV-голов в модели меньше, чем ядер. В примечаниях к релизу прирост скорости не указан.

## Источники и ссылки

1. [ggml-org/llama.cpp b11868](https://github.com/ggml-org/llama.cpp/releases/tag/b11868) – llama.cpp, 2026-10-24

Обновлено: 2026-10-24