Das ggml‑org-Team hat am 20. Okt. 2026 llama.cpp in Version b11759 veröffentlicht. Das Update ergänzt eine Flash-Attention-Operation (fattn) für das ggml‑zdnn-Backend und ersetzt Scratch-Slots durch einen Scratch-Buffer-Pool. Die Änderung wurde vom Contributor Aaron Teo freigegeben. Flash Attention beschleunigt die Attention-Berechnung, die große Sprachmodelle verwenden.
Warum es wichtig ist
Flash Attention kann die Inferenzzeit für Nutzer verkürzen, die llama.cpp lokal ausführen, sodass sich Chat-Modelle schneller anfühlen.
