# llama.cpp ändrar uppdelningen av Hexagons flash-attention

> Version b11868 slår ihop två inställningar för uppdelning av Hexagons flash-attention och lägger till uppdelning i team när KV-huvuden inte utnyttjar alla tillgängliga kärnor.

Oossa · 2026-10-24 · https://oossa.com/sv/llama-cpp-changes-hexagon-flash-attention-splitting

Version b11868 av ggml-org/llama.cpp ändrar hur Hexagon hanterar flash-attention med HMX på flera kärnor. De separata inställningarna `FA_HEAD_SPLIT` och `FA_SPLIT` ersätts med en enda flagga: `GGML_HEXAGON_FA_SPLIT`.

När flaggan är satt till 1 kan arbetet delas upp mellan KV-huvuden och, om det finns färre KV-huvuden än kärnor, även mellan team. På så sätt kan kärnor som annars skulle stå oanvända delta. I versionsinformationen ges Gemma 4 med två KV-huvuden på fyra kärnor som exempel.

## Fakta

- Om `GGML_HEXAGON_FA_SPLIT` sätts till 0 används endast uppdelning av token; värdet 1 aktiverar uppdelning mellan huvuden och vid behov även mellan team.
- Enligt versionsinformationen används vanlig uppdelning mellan huvuden när de fördelas jämnt.

## Varför det spelar roll

För den som kör llama.cpp på Hexagon-hårdvara är ändringen tänkt att göra det möjligt för kärnor att delta när en modell har färre KV-huvuden än kärnor. Versionsinformationen anger ingen mätbar hastighetsökning.

## Källor och referenser

1. [ggml-org/llama.cpp b11868](https://github.com/ggml-org/llama.cpp/releases/tag/b11868) – llama.cpp, 2026-10-24

Senast uppdaterad: 2026-10-24