Het ggml-org-team bracht op 20 oktober 2026 versie b11760 van llama.cpp uit. De update verhelpt een fout in de reductieberekening van de matrixvermenigvuldigingsfunctie wanneer de tilebreedte geen veelvoud van 64 is. De fout trof zowel de HIP- als de CUDA-route voor GPU’s. Ook bevat de update nieuwe, vooraf gecompileerde binaries voor Apple Silicon, Intel-Macs, iOS en verschillende Ubuntu-configuraties voor CPU, Vulkan en CUDA.
Waarom het ertoe doet
Ontwikkelaars kunnen llama.cpp nu op meer GPU-configuraties gebruiken zonder crashes. Daardoor neemt het aantal apparaten waarop lokale LLM’s kunnen draaien toe.