A equipe do ggml‑org lançou a versão b11759 do llama.cpp em 20 Oct 2026. A atualização adiciona a operação flash attention (fattn) ao backend ggml‑zdnn e substitui os slots de scratch por um pool de buffers de scratch. A alteração foi aprovada pelo colaborador Aaron Teo. A flash attention acelera o cálculo de atenção usado por grandes modelos de linguagem.
Por que importa
A flash attention pode reduzir o tempo de inferência para quem executa o llama.cpp localmente, deixando os modelos de conversa mais rápidos.