La libreria open source llama.cpp ha rilasciato la versione b11632 il 15 ottobre 2026. L’aggiornamento aggiunge un kernel GDN (Gaussian-Diffusion-Normalization) a blocchi per CUDA e HIP, migliorando il supporto alle GPU. Abilita le istruzioni SM86 e SM89 sulle GPU Ampere e Ada testate, tra cui RTX 3090 e RTX 4090, dopo verifiche di correttezza e benchmark di prefill. Le versioni precedenti hanno ricevuto correzioni e il codice ora utilizza un’API swizzle ristrutturata per la fase GDN MMA (moltiplicazione e accumulo di matrici).
Perché conta
Gli sviluppatori possono ottenere inferenze con llama.cpp più rapide e affidabili sulle recenti GPU Nvidia.
