Das llama.cpp-Projekt hat am 22. Okt. 2026 Version b11811 veröffentlicht. Das Update bringt Q8_0-SVE-Dot-Product-GEMV- und SVE-i8mm-GEMM-Kernels, die die Inferenz quantisierter Modelle auf ARM-CPUs beschleunigen. Vorgefertigte Binärdateien für Apple-Silicon- und Intel-Macs, iOS sowie verschiedene Ubuntu-Versionen (CPU, Vulkan, CUDA 12.8) stehen jetzt zum Download bereit.
Warum es wichtig ist
Entwickler können LLaMA-Modelle auf neuerer ARM-Hardware und mit Linux-GPUs schneller ausführen, ohne eigenen Code schreiben zu müssen.
