El equipo de ggml-org publicó la versión b11413 de llama.cpp el 5 de octubre de 2026. La actualización incorpora una implementación de atención flash dispersa con Vulkan compatible con tensores de clave/valor cuantizados. El cambio se describe como «atención flash dispersa para K/V cuantizados» y está pensado para la inferencia acelerada por GPU. La versión también incluye numerosas compilaciones para distintas plataformas, desde macOS con Apple Silicon hasta Windows con CUDA y Vulkan.
Por qué importa
Los desarrolladores ahora pueden ejecutar modelos cuantizados más rápido en GPU compatibles con Vulkan, lo que reduce el costo de cómputo en dispositivos periféricos.
