# llama.cpp får valfri GPU-keepalive för Vulkan

> Open source-biblioteket llama.cpp (v b12363) låter nu Vulkan-bakändar hålla GPU-enheten aktiv under en angiven tid, vilket underlättar upprepade inferensanrop.

Oossa · 2026-11-13 · https://oossa.com/sv/llama-cpp-adds-optional-vulkan-device-keepalive-in-new-release

ggml-org-teamet släppte llama.cpp version b12363 den 13 november 2026. Uppdateringen lägger till en valfri inställning för keepalive av enheten i Vulkan-bakänden, så att användare kan ange hur länge GPU:n ska vara aktiv innan den stängs av. Ändringen flyttar ägandet av enheten till bakänden och förenklar koden. Förbyggda binärfiler för macOS, iOS och flera Ubuntu-varianter ingår.

## Fakta

- Version b12363 släpptes 2026-11-13
- Lägger till valfri keepalive för Vulkan-enheten (kan ställas in i sekunder)

## Varför det spelar roll

Utvecklare kan köra upprepade modellförfrågningar på GPU:n utan kostsam ominitiering, vilket ger snabbare svar i lokala AI-appar.

## Källor och referenser

1. [ggml-org/llama.cpp b12363](https://github.com/ggml-org/llama.cpp/releases/tag/b12363) – llama.cpp, 2026-11-13

Senast uppdaterad: 2026-11-13