# llama.cpp b12094 acelera amostragem top-k no Hexagon

> A versão do llama.cpp altera a amostragem top-k em hardware Hexagon: uma varredura evita ordenar blocos que não podem entrar na seleção. Não foram divulgados dados de ganho de velocidade.

Oossa · 2026-11-04 · https://oossa.com/pt/llama-cpp-b12094-speeds-up-hexagon-top-k-sampling

A equipe ggml-org lançou o llama.cpp b12094 em 4 de novembro de 2026, com um caminho mais rápido para a amostragem top-k no backend Hexagon. A amostragem top-k seleciona entre as opções com pontuação mais alta durante a geração de texto.

A mudança é voltada a valores de k entre 2 e 64 e linhas com mais de 1.024 entradas. Ela evita ordenar blocos que não podem conter um dos melhores resultados, mas a versão não informa ganhos de velocidade medidos.

## Os fatos

- O novo caminho usa uma operação vetorial de máximo do Hexagon para examinar blocos de 256 valores.
- Ele se aplica tanto ao processamento de uma única linha quanto ao de várias linhas.

## Por que importa

Quem executa o llama.cpp em hardware Hexagon compatível passa a contar com um método de amostragem mais eficiente nesses casos, embora a versão não quantifique o ganho de velocidade no uso real.

## Fontes e referências

1. [ggml-org/llama.cpp b12094](https://github.com/ggml-org/llama.cpp/releases/tag/b12094) – llama.cpp, 2026-11-04

Última atualização: 2026-11-04