Das Team von ggml-org hat am 2026-10-16 llama.cpp in Version b11688 veröffentlicht. Das Update bringt eine Änderung, die ausschließlich CPUs betrifft: Es reduziert die AVX2-Kachelakkumulatoren – laut Projekt soll dadurch die Inferenz schneller laufen. Vorgefertigte Binärdateien für macOS, iOS, Linux, Vulkan und CUDA stehen für verschiedene Hardware bereit. Die Änderung ist als mit Unterstützung von Codex, dem Codegenerierungsmodell von OpenAI, gekennzeichnet.
Warum es wichtig ist
Entwickler können llama.cpp-Modelle auf AVX2-CPUs schneller ausführen, ohne den Code neu kompilieren zu müssen.