# llama.cpp bietet Vulkan-Sparse-Flash-Attention für quantisierte K/V-Daten

> Die Open-Source-Laufzeitumgebung für LLMs unterstützt jetzt einen Vulkan-Modus für Sparse Flash Attention mit quantisierten K/V-Daten.

Oossa · 2026-10-05 · https://oossa.com/de/llama-cpp-adds-vulkan-sparse-flash-attention-for-quantized-keys-and-values

Das Team von ggml-org hat am 5. Okt. 2026 llama.cpp in Version b11413 veröffentlicht. Das Update ergänzt eine Vulkan-Implementierung von Sparse Flash Attention, die mit quantisierten Key- und Value-Tensoren funktioniert. Die Neuerung wird als „Sparse Flash Attention for quantized K/V“ beschrieben und ist auf GPU-beschleunigte Inferenz ausgelegt. Die Veröffentlichung umfasst außerdem zahlreiche Builds für verschiedene Plattformen – von macOS mit Apple Silicon bis hin zu Windows mit CUDA und Vulkan.

## Die Fakten

- Version b11413 wurde am Mo., 5. Okt. 2026, veröffentlicht
- Neue Funktion: Vulkan-Sparse-Flash-Attention für quantisierte K/V-Daten

## Warum es wichtig ist

Entwickler können quantisierte Modelle jetzt auf Vulkan-fähigen GPUs schneller ausführen und so die Rechenkosten auf Edge-Geräten senken.

## Quellen und Referenzen

1. [ggml-org/llama.cpp b11413](https://github.com/ggml-org/llama.cpp/releases/tag/b11413) – llama.cpp, 2026-10-05

Zuletzt aktualisiert: 2026-10-05