Oossa

llama.cpp b11723 amplia o contexto com FLASH_ATTN_EXT

A biblioteca de código aberto llama.cpp lançou a versão b11723, com ajustes no FLASH_ATTN_EXT para acelerar a inferência com contextos longos em CPU e Vulkan.

NotaPor Publicado pelo Oossa: 1 min de leitura

A equipe do ggml-org publicou a versão b11723 do llama.cpp em 19 de outubro de 2026. A atualização traz melhorias no FLASH_ATTN_EXT para janelas de contexto maiores e modelos SWA, além de pular blocos mascarados para reduzir as leituras de memória. Agora há builds binários disponíveis para macOS (Apple Silicon e Intel), iOS e várias versões do Ubuntu, incluindo suporte a GPUs Vulkan. As mudanças buscam melhorar o desempenho de modelos como o gemma-4.

Por que importa

Desenvolvedores podem executar modelos de linguagem com contextos maiores de forma mais eficiente em CPUs de desktop e GPUs compatíveis.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.