L’équipe ggml-org a publié la version b11713 de llama.cpp le 17 octobre 2026. Cette mise à jour améliore les performances CUDA pour les types basse précision grâce à un algorithme MMVQ plus rapide. Elle apporte aussi une petite correction pour les GPU HIP (AMD) avec les quantifications Q3_K et Q6_K. Des binaires précompilés pour macOS, iOS et plusieurs versions d’Ubuntu (CPU, Vulkan, CUDA) sont désormais disponibles au téléchargement.
Pourquoi c'est important
Les développeurs peuvent exécuter plus rapidement des LLM quantifiés sur des GPU NVIDIA, ce qui réduit les coûts d’inférence des applications d’IA locales.
