A versão b11868 do ggml-org/llama.cpp muda a forma como o Hexagon lida com o flash attention HMX em vários núcleos. Ela substitui as opções separadas `FA_HEAD_SPLIT` e `FA_SPLIT` por uma única flag: `GGML_HEXAGON_FA_SPLIT`.
Com a flag definida como 1, o trabalho pode ser dividido entre as cabeças KV e, quando há menos cabeças KV do que núcleos, entre equipes, permitindo a participação de núcleos que, de outra forma, ficariam ociosos. A versão usa como exemplo o Gemma 4 com duas cabeças KV em quatro núcleos.
Por que importa
Para quem executa o llama.cpp em hardware Hexagon, a mudança busca permitir que os núcleos participem quando um modelo tem menos cabeças KV do que núcleos; as notas da versão não quantificam nenhum ganho de velocidade.
