# llama.cpp acelera a decodificação especulativa no Apple M3 Ultra

> O runtime de LLM de código aberto agora usa novos kernels de multiplicação de matrizes no Apple Silicon, reduzindo o tempo de geração de tokens em alguns modelos quantizados.

Oossa · 2026-10-05 · https://oossa.com/pt/llama-cpp-adds-few-row-metal-kernels-for-faster-speculative-decoding-on-apple-m3

O projeto llama.cpp lançou a versão b11404 em 5 de outubro de 2026. Ela adiciona kernels Metal que multiplicam várias linhas de uma só vez (2–16 linhas) nas GPUs da Apple. Esses kernels desquantizam cada peso uma única vez e compartilham o trabalho entre grupos SIMD, tornando a decodificação especulativa no M3 Ultra mais rápida do que com a abordagem mat-vec anterior. Os novos kernels são usados apenas em dispositivos compatíveis com a família de GPUs Apple7 e quando a quantidade de linhas atinge um limite (por exemplo, 6 linhas para F32). A mudança também aprimora a lógica de fusão e remove uma fusão de cópia em lote que causava problemas.

## Os fatos

- Data de lançamento: 5 de outubro de 2026 ("Mon Oct 05 2026 08:06:22 GMT+0200").
- Os novos kernels Metal processam de 2 a 16 linhas e melhoram a decodificação especulativa no M3 Ultra.

## Por que importa

Quem usa llama.cpp em dispositivos Apple Silicon terá menor latência ao gerar textos com decodificação especulativa, especialmente no M3 Ultra.

## Fontes e referências

1. [ggml-org/llama.cpp b11404](https://github.com/ggml-org/llama.cpp/releases/tag/b11404) – llama.cpp, 2026-10-05

Última atualização: 2026-10-05