# llama.cpp får Vulkan-stöd för gles flash attention

> Körtidsmiljön med öppen källkod stöder nu ett Vulkan-baserat läge för gles flash attention med kvantiserade K/V-data.

Oossa · 2026-10-05 · https://oossa.com/sv/llama-cpp-adds-vulkan-sparse-flash-attention-for-quantized-keys-and-values

ggml-org-teamet släppte llama.cpp version b11413 den 5 oktober 2026. Uppdateringen lägger till en Vulkan-implementation av gles flash attention som fungerar med kvantiserade nyckel-/värdetensorer. Ändringen beskrivs som ”sparse flash attention for quantized K/V” och riktar sig till GPU-accelererad inferens. I versionsinformationen listas också många plattformsbyggen, från Apple Silicon på macOS till CUDA och Vulkan på Windows.

## Fakta

- Version b11413 släpptes måndagen den 5 oktober 2026
- Ny funktion: Vulkan-baserad gles flash attention för kvantiserade K/V-data

## Varför det spelar roll

Utvecklare kan nu köra kvantiserade modeller snabbare på GPU:er med Vulkan-stöd, vilket minskar beräkningskostnaderna för edge-enheter.

## Källor och referenser

1. [ggml-org/llama.cpp b11413](https://github.com/ggml-org/llama.cpp/releases/tag/b11413) – llama.cpp, 2026-10-05

Senast uppdaterad: 2026-10-05