Het ggml-org-team heeft op 2026‑10‑21 llama.cpp versie b11792 uitgebracht. De update past de aanroep set_rows aan, zodat data op de GPU kan blijven. Dat levert hogere snelheden op voor GPU-gebruikers. Er zijn nu vooraf gebouwde binaries beschikbaar voor macOS Apple Silicon, macOS Intel, iOS en verschillende Ubuntu-versies (CPU, Vulkan, CUDA 12.8). De downloadlinks staan op de GitHub-tagpagina.
In de release notes staat de wijziging omschreven als: “place d2t by its set_rows use so it can stay on the GPU (#30912)”.
Waarom het ertoe doet
Ontwikkelaars kunnen Llama-modellen sneller draaien op compatibele GPU’s, zonder extra gegevensoverdracht.
