El equipo de ggml‑org publicó la versión b11759 de llama.cpp el 20 Oct 2026. La actualización incorpora una operación de flash attention (fattn) al backend ggml‑zdnn y sustituye las ranuras de scratch por un pool de búferes scratch. El cambio cuenta con el visto bueno del colaborador Aaron Teo. Flash attention acelera el cálculo de atención que utilizan los modelos de lenguaje grandes.
Por qué importa
Flash attention puede reducir el tiempo de inferencia para quienes ejecutan llama.cpp localmente y hacer que los modelos de chat respondan más rápido.
