Il team ggml-org ha rilasciato la versione b11819 di llama.cpp il 2026-10-22. L’aggiornamento aggiunge il supporto ai modelli GQA (grouped query attention) non standard e a un tokenizer BPE (byte-pair encoding), oltre a un nuovo pre-type domyn-small. Introduce anche la gestione dei metadati per gli schemi di prefisso Metaspace. La matrice delle build include ora numerose piattaforme CPU e GPU, tra cui Apple Silicon, CUDA 12/13, Vulkan, ROCm e Android Snapdragon.
Perché conta
Gli sviluppatori possono eseguire una gamma più ampia di LLM, compresi quelli che usano GQA, su più dispositivi, come smartphone e GPU.