La biblioteca de código abierto llama.cpp publicó la versión b11632 el 15 de octubre de 2026. Añade un kernel GDN (Gaussian-Diffusion-Normalization) por bloques tanto para CUDA como para HIP, lo que mejora la compatibilidad con GPU. La actualización habilita los conjuntos de instrucciones SM86 y SM89 en GPU Ampere y Ada probadas, incluidas las RTX 3090 y RTX 4090, tras las pruebas de corrección y rendimiento de prefill. También se corrigieron versiones anteriores y ahora el código utiliza una API swizzle refactorizada para la fase GDN MMA (multiplicación y acumulación de matrices).
Por qué importa
Los desarrolladores pueden lograr una inferencia con llama.cpp más rápida y fiable en las GPU Nvidia recientes.