Oossa

llama.cpp adiciona kernel GDN em blocos para CUDA e HIP

A versão b11632, de 15 de outubro de 2026, traz um kernel GDN em blocos para CUDA e HIP e habilita SM86/SM89 nas GPUs RTX 3090 e RTX 4090.

NotaPor Publicado pelo Oossa: 1 min de leitura

A biblioteca de código aberto llama.cpp lançou a versão b11632 em 15 de outubro de 2026. A atualização adiciona um kernel GDN (Gaussian-Diffusion-Normalization) em blocos para CUDA e HIP, melhorando o suporte a GPUs. Ela habilita os conjuntos de instruções SM86 e SM89 em GPUs Ampere e Ada testadas, incluindo a RTX 3090 e a RTX 4090, após testes de correção e benchmarks de prefill. Versões anteriores receberam correções, e o código agora usa uma API swizzle refatorada para a etapa GDN MMA (multiplicação e acumulação de matrizes).

Por que importa

Desenvolvedores podem obter inferência do llama.cpp mais rápida e confiável em GPUs Nvidia recentes.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.