A biblioteca de código aberto llama.cpp lançou a versão b11632 em 15 de outubro de 2026. A atualização adiciona um kernel GDN (Gaussian-Diffusion-Normalization) em blocos para CUDA e HIP, melhorando o suporte a GPUs. Ela habilita os conjuntos de instruções SM86 e SM89 em GPUs Ampere e Ada testadas, incluindo a RTX 3090 e a RTX 4090, após testes de correção e benchmarks de prefill. Versões anteriores receberam correções, e o código agora usa uma API swizzle refatorada para a etapa GDN MMA (multiplicação e acumulação de matrizes).
Por que importa
Desenvolvedores podem obter inferência do llama.cpp mais rápida e confiável em GPUs Nvidia recentes.