De opensourcebibliotheek llama.cpp heeft op 2026-10-17 versie b11706 uitgebracht. De update verhelpt een fout in de SYCL-promptverwerking die ontstond na het herschikken van gewichten voor de formaten Q4_0/Q8_0. Ook zijn er nieuwe kant-en-klare binaries beschikbaar voor macOS op Apple Silicon en Intel, iOS en diverse Linux-configuraties, waaronder CPU, Vulkan en CUDA 12.8. De builds zijn te downloaden via de GitHub-releasepagina.
Waarom het ertoe doet
Ontwikkelaars kunnen llama.cpp nu op SYCL-compatibele GPU's gebruiken zonder fouten bij de promptverwerking, waardoor er meer hardwareopties zijn voor lokaal gebruik van LLM's.
