ggml‑org a publié la version b12318 de llama.cpp le 2026‑11‑12. Cette mise à jour ajoute un pool de buffers de débogage CUDA pour aider les développeurs à suivre l’utilisation de la mémoire avec compute-sanitizer. Elle comprend aussi de nouveaux binaires précompilés pour Apple Silicon, les Mac Intel, iOS et plusieurs configurations Ubuntu avec processeur ou Vulkan.
Pourquoi c'est important
Les développeurs qui exécutent des modèles LLaMA sur des GPU NVIDIA peuvent désormais déboguer plus facilement les problèmes de mémoire et réduire les plantages pendant l’inférence.
