В релизе ggml-org/llama.cpp b11868 изменён принцип работы многопоточного HMX flash attention на Hexagon. Два отдельных параметра — `FA_HEAD_SPLIT` и `FA_SPLIT` — заменены одним флагом `GGML_HEXAGON_FA_SPLIT`.
При значении 1 задачи можно распределять между KV-головами, а если их меньше, чем ядер, — ещё и между командами, чтобы задействовать простаивающие ядра. В релизе в качестве примера приводится Gemma 4 с двумя KV-головами на четырёх ядрах.
Почему это важно
Для тех, кто запускает llama.cpp на оборудовании Hexagon, это изменение призвано задействовать ядра, которые простаивали бы из-за того, что KV-голов в модели меньше, чем ядер. В примечаниях к релизу прирост скорости не указан.
