El equipo de ggml-org publicó la versión b11713 de llama.cpp el 17 de octubre de 2026. La actualización mejora el rendimiento en CUDA para tipos de pocos bits mediante un algoritmo MMVQ más rápido. También incluye una pequeña corrección para las GPU HIP (AMD) con las cuantizaciones Q3_K y Q6_K. Ya se pueden descargar binarios precompilados para macOS, iOS y varias versiones de Ubuntu (CPU, Vulkan y CUDA).
Por qué importa
Los desarrolladores pueden ejecutar modelos de lenguaje grandes cuantizados más rápido en GPU NVIDIA, lo que reduce los costes de inferencia de las aplicaciones locales de IA.
