Oossa

llama.cpp añade un kernel GDN por bloques para CUDA y HIP

La versión b11632, publicada el 15 de octubre de 2026, incorpora un kernel GDN por bloques para CUDA y HIP, y habilita SM86/SM89 en las GPU RTX 3090 y RTX 4090.

BrevePor Publicado por Oossa: 1 min de lectura

La biblioteca de código abierto llama.cpp publicó la versión b11632 el 15 de octubre de 2026. Añade un kernel GDN (Gaussian-Diffusion-Normalization) por bloques tanto para CUDA como para HIP, lo que mejora la compatibilidad con GPU. La actualización habilita los conjuntos de instrucciones SM86 y SM89 en GPU Ampere y Ada probadas, incluidas las RTX 3090 y RTX 4090, tras las pruebas de corrección y rendimiento de prefill. También se corrigieron versiones anteriores y ahora el código utiliza una API swizzle refactorizada para la fase GDN MMA (multiplicación y acumulación de matrices).

Por qué importa

Los desarrolladores pueden lograr una inferencia con llama.cpp más rápida y fiable en las GPU Nvidia recientes.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.