Het team van ggml-org heeft op 2026-10-16 versie b11688 van llama.cpp uitgebracht. De update bevat een wijziging die alleen voor CPU’s geldt: het aantal getegelde AVX2-accumulators wordt verminderd. Volgens het project versnelt deze aanpassing de inferentie. Er zijn vooraf gebouwde binaries beschikbaar voor macOS, iOS, Linux, Vulkan en CUDA, voor uiteenlopende hardware. Bij de wijziging staat vermeld dat die is gemaakt met hulp van Codex, het codegeneratiemodel van OpenAI.
Waarom het ertoe doet
Ontwikkelaars kunnen modellen met llama.cpp sneller uitvoeren op AVX2-processors, zonder de code opnieuw te compileren.