Das ggml‑org-Team hat am 2026-10-22 Version b11819 von llama.cpp veröffentlicht. Das Update ergänzt die Unterstützung für nicht standardisierte GQA-Modelle (Grouped Query Attention) und einen BPE-Tokenizer (Byte-Pair-Encoding) sowie einen neuen domyn‑small-Pre-Type. Außerdem wird nun die Metadatenverarbeitung für Metaspace-Prepend-Schemata unterstützt. Die Build-Matrix umfasst jetzt zahlreiche CPU- und GPU-Ziele, darunter Apple Silicon, CUDA 12/13, Vulkan, ROCm und Android Snapdragon.
Warum es wichtig ist
Entwickler können nun eine größere Auswahl an LLMs – auch solche mit GQA – auf mehr Geräten ausführen, darunter Smartphones und GPUs.
