ggml-org-teamet släppte llama.cpp version b11792 den 2026-10-21. Uppdateringen ändrar anropet set_rows så att data kan stanna kvar på GPU:n, vilket förbättrar hastigheten för GPU-användare. Färdigbyggda binärfiler finns nu för macOS Apple Silicon, macOS Intel, iOS och flera Ubuntu-versioner (CPU, Vulkan, CUDA 12.8). Länkar till releasen finns på GitHub-sidan för taggen.
Ändringen beskrivs i versionsinformationen som ”place d2t by its set_rows use so it can stay on the GPU (#30912)”.
Varför det spelar roll
Utvecklare kan köra Llama-modeller snabbare på kompatibla GPU:er utan extra dataöverföringar.
