Version b11868 av ggml-org/llama.cpp ändrar hur Hexagon hanterar flash-attention med HMX på flera kärnor. De separata inställningarna `FA_HEAD_SPLIT` och `FA_SPLIT` ersätts med en enda flagga: `GGML_HEXAGON_FA_SPLIT`.
När flaggan är satt till 1 kan arbetet delas upp mellan KV-huvuden och, om det finns färre KV-huvuden än kärnor, även mellan team. På så sätt kan kärnor som annars skulle stå oanvända delta. I versionsinformationen ges Gemma 4 med två KV-huvuden på fyra kärnor som exempel.
Varför det spelar roll
För den som kör llama.cpp på Hexagon-hårdvara är ändringen tänkt att göra det möjligt för kärnor att delta när en modell har färre KV-huvuden än kärnor. Versionsinformationen anger ingen mätbar hastighetsökning.
