Teamet ggml-org släppte version b11819 av llama.cpp den 2026-10-22. Uppdateringen lägger till stöd för modeller med ovanlig GQA (grouped query attention) och en BPE-tokeniserare (byte-pair encoding), samt en ny domyn-small pre-typ. Den lägger också till hantering av metadata för Metaspace-prefixscheman. Byggmatrisen omfattar nu många CPU- och GPU-mål, däribland Apple Silicon, CUDA 12/13, Vulkan, ROCm och Android Snapdragon.
Varför det spelar roll
Utvecklare kan nu köra ett bredare utbud av LLM:er, även sådana som använder GQA, på fler enheter, till exempel smarttelefoner och GPU:er.
