Teamet bakom ggml-org publicerade taggen b12322 för llama.cpp den 12 nov. 2026. Ändringen påverkar hur grafresultat reserverar metadata: bara de sidor som behövs allokeras, i stället för att hela det reserverade utrymmet initieras. Det minskar mängden RAM som biblioteket använder under inferens.
Uppdateringen finns för alla plattformar i listan, från macOS och Windows med CPU till Linux-byggen med CUDA, Vulkan och OpenVINO.
Varför det spelar roll
Utvecklare som kör LLaMA-modeller på enheter med begränsat minne får lägre RAM-användning, vilket kan göra det möjligt att köra större modeller eller multitaska smidigare.
