El equipo de ggml-org lanzó la versión b11819 de llama.cpp el 2026-10-22. La actualización añade compatibilidad con modelos GQA (atención de consultas agrupadas) no estándar y un tokenizador BPE (codificación por pares de bytes), además de un nuevo pre-tipo domyn-small. También incorpora gestión de metadatos para esquemas de prefijo de Metaspace. La matriz de compilaciones ahora incluye numerosos objetivos para CPU y GPU, como Apple Silicon, CUDA 12/13, Vulkan, ROCm y Android Snapdragon.
Por qué importa
Los desarrolladores ahora pueden ejecutar una variedad más amplia de LLM, incluidos los que usan GQA, en más dispositivos, como teléfonos inteligentes y GPU.