El equipo de ggml‑org publicó la versión b11757 de llama.cpp. La actualización limpia los CUDA Graphs después de vaciar un grupo de memoria heredado, lo que debería reducir las fugas de memoria de la GPU. Ya hay binarios precompilados para macOS con Apple Silicon, macOS con Intel, iOS y varias versiones de Ubuntu (CPU, Vulkan y CUDA 12.8). El lanzamiento está disponible en GitHub.
Por qué importa
Los desarrolladores que ejecutan modelos Llama en GPU Nvidia tendrán menos errores por falta de memoria gracias a esta corrección.
