Oossa

llama.cpp ganha suporte à operação flash attention

A biblioteca de código aberto llama.cpp agora oferece suporte à operação flash attention por meio do ggml‑zdnn, anunciou a equipe em 20 Oct 2026.

NotaPor Publicado pelo Oossa: 1 min de leitura

A equipe do ggml‑org lançou a versão b11759 do llama.cpp em 20 Oct 2026. A atualização adiciona a operação flash attention (fattn) ao backend ggml‑zdnn e substitui os slots de scratch por um pool de buffers de scratch. A alteração foi aprovada pelo colaborador Aaron Teo. A flash attention acelera o cálculo de atenção usado por grandes modelos de linguagem.

Por que importa

A flash attention pode reduzir o tempo de inferência para quem executa o llama.cpp localmente, deixando os modelos de conversa mais rápidos.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.