ggml-org heeft op 2026-10-22 versie b11804 van llama.cpp uitgebracht. De update voegt een OpenCL-routine toe die de argmax berekent van 32-bits floats naar 32-bits integers, waardoor inferentie op de GPU sneller wordt. Ook bevat de update nieuwe vooraf gebouwde binaries voor Apple Silicon, Intel-macs, iOS en verschillende Ubuntu-varianten (CPU, Vulkan, CUDA). De wijzigingen zijn gemaakt door OpenCode en Li He van Qualcomm.
Waarom het ertoe doet
Ontwikkelaars kunnen llama.cpp-modellen nu sneller draaien op OpenCL-compatibele GPU’s. Dat biedt meer hardwarekeuze voor AI-projecten van hobbyisten.
