ggml-org-teamet släppte llama.cpp version b12363 den 13 november 2026. Uppdateringen lägger till en valfri inställning för keepalive av enheten i Vulkan-bakänden, så att användare kan ange hur länge GPU:n ska vara aktiv innan den stängs av. Ändringen flyttar ägandet av enheten till bakänden och förenklar koden. Förbyggda binärfiler för macOS, iOS och flera Ubuntu-varianter ingår.
Varför det spelar roll
Utvecklare kan köra upprepade modellförfrågningar på GPU:n utan kostsam ominitiering, vilket ger snabbare svar i lokala AI-appar.
