# llama.cpp otimiza desquantização do KV no Vulkan

> A biblioteca de código aberto llama.cpp agora desquantiza o cache de chave e valor em GPUs Vulkan, acelerando o processamento de determinados cabeçalhos de atenção.

Oossa · 2026-11-11 · https://oossa.com/pt/llama-cpp-adds-vulkan-kv-dequantization-optimization

A equipe ggml-org lançou a versão b12291 do llama.cpp. A atualização inclui uma otimização baseada em Vulkan que desquantiza o cache de chave e valor usando a instrução coopmat2. A alteração só é aplicada quando uma heurística, baseada no número de tokens de consulta e na proporção GQA, considera que ela é segura. A atualização também corrige o tratamento do alinhamento em alguns tamanhos de cabeçalho, melhorando o desempenho quando a otimização não pode ser usada.

## Os fatos

- A tag de lançamento b12291 foi publicada em 2026-11-11
- Adiciona uma otimização de desquantização do KV para GPUs Vulkan

## Por que importa

Desenvolvedores que executam modelos Llama em hardware compatível com Vulkan podem obter inferência mais rápida sem alterar o código.

## Fontes e referências

1. [ggml-org/llama.cpp b12291](https://github.com/ggml-org/llama.cpp/releases/tag/b12291) – llama.cpp, 2026-11-11

Última atualização: 2026-11-11