La bibliothèque open source llama.cpp a publié la version b11632 le 15 oct. 2026. Elle ajoute un noyau GDN (Gaussian-Diffusion-Normalization) par blocs pour CUDA et HIP, améliorant ainsi la prise en charge des GPU. La mise à jour active les jeux d’instructions SM86 et SM89 sur des GPU Ampere et Ada testés, notamment les RTX 3090 et RTX 4090, après vérification de l’exactitude et réalisation de tests de préremplissage. Des correctifs ont été apportés aux versions antérieures, et le code utilise désormais une API de permutation (« swizzle ») remaniée pour la phase GDN MMA (multiplication-accumulation de matrices).
Pourquoi c'est important
Les développeurs peuvent bénéficier d’une inférence llama.cpp plus rapide et plus fiable sur les GPU Nvidia récents.
