Het llama.cpp-project bracht op Oct 22 2026 versie b11811 uit. De update voegt Q8_0 SVE-dotproduct-GEMV- en SVE i8mm-GEMM-kernels toe, die de inferentie van gekwantiseerde modellen op ARM-processors versnellen. Vooraf gebouwde binaries voor macOS op Apple Silicon, Intel, iOS en verschillende Ubuntu-builds (CPU, Vulkan, CUDA 12.8) zijn nu te downloaden.
Waarom het ertoe doet
Ontwikkelaars kunnen LLaMA-modellen sneller draaien op nieuwere ARM-hardware en op Linux-GPU’s, zonder zelf code te hoeven schrijven.
