# llama.cpp ganha novos kernels OpenCL para lotes pequenos

> A biblioteca de inferência Llama de código aberto agora inclui várias versões otimizadas de GEMM em OpenCL para execuções com lotes pequenos, ampliando o suporte às GPUs Snapdragon.

Oossa · 2026-10-20 · https://oossa.com/pt/llama-cpp-adds-new-opencl-kernels-for-small-batch-workloads

O projeto ggml‑org/llama.cpp lançou uma atualização (b11763) em 2026‑10‑21. Ela adiciona alguns kernels OpenCL que aceleram multiplicações de matrizes com lotes pequenos, incluindo q4_k dp4a GEMM e uma variante estreita de mul_mm_f16_f32. As mudanças também corrigem um erro de leitura fora dos limites e removem uma proteção desnecessária que acionava a alternativa de execução na CPU. A biblioteca já funciona em muitas plataformas, do Apple Silicon no macOS ao CUDA no Windows e ao Vulkan no Linux, e agora oferece melhor suporte a CPUs Snapdragon, GPUs Adreno e NPUs Hexagon.

## Os fatos

- Adiciona várias variantes de GEMM em OpenCL para lotes pequenos (por exemplo, q4_k dp4a e mul_mm_f16_f32).
- Data de lançamento: 2026‑10‑21.

## Por que importa

Desenvolvedores podem executar modelos Llama mais rapidamente em dispositivos Android com chips Snapdragon, tornando mais prática a IA no próprio aparelho.

## Fontes e referências

1. [ggml-org/llama.cpp b11763](https://github.com/ggml-org/llama.cpp/releases/tag/b11763) – llama.cpp, 2026-10-20

Última atualização: 2026-10-20