# llama.cpp passt Flash-Attention-Aufteilung für Hexagon an

> Release b11868 fasst zwei Hexagon-Flags für Flash Attention zusammen und ergänzt Team-Aufteilung, wenn KV-Heads nicht alle verfügbaren Kerne auslasten.

Oossa · 2026-10-24 · https://oossa.com/de/llama-cpp-changes-hexagon-flash-attention-splitting

Das Release ggml-org/llama.cpp b11868 ändert, wie Hexagon die Multicore-HMX-Flash-Attention verarbeitet. Die bisherigen separaten Einstellungen `FA_HEAD_SPLIT` und `FA_SPLIT` werden durch ein einzelnes Flag ersetzt: `GGML_HEXAGON_FA_SPLIT`.

Ist das Flag auf 1 gesetzt, lässt sich die Arbeit auf KV-Heads und – wenn es weniger KV-Heads als Kerne gibt – auf Teams aufteilen. So können auch sonst ungenutzte Kerne mitarbeiten. Als Beispiel nennt das Release Gemma 4 mit zwei KV-Heads auf vier Kernen.

## Die Fakten

- Bei `GGML_HEXAGON_FA_SPLIT` auf 0 bleibt es bei der Aufteilung nach Tokens; der Wert 1 aktiviert die Aufteilung nach Heads und bei Bedarf nach Teams.
- Laut den Release Notes werden gleichmäßig verteilte Heads einfach nach Heads aufgeteilt.

## Warum es wichtig ist

Für alle, die llama.cpp auf Hexagon-Hardware ausführen, soll die Änderung dafür sorgen, dass auch dann Kerne mitarbeiten können, wenn ein Modell weniger KV-Heads als Kerne hat. Die Release Notes nennen keine konkreten Leistungssteigerungen.

## Quellen und Referenzen

1. [ggml-org/llama.cpp b11868](https://github.com/ggml-org/llama.cpp/releases/tag/b11868) – llama.cpp, 2026-10-24

Zuletzt aktualisiert: 2026-10-24