El equipo de ggml-org publicó la versión b12363 de llama.cpp el 13 de noviembre de 2026. La actualización añade una opción para mantener activo el dispositivo en el back-end de Vulkan, que permite especificar cuánto tiempo permanece activa la GPU antes de apagarse. El cambio transfiere al back-end la propiedad del dispositivo y simplifica el código. Se incluyen binarios precompilados para macOS, iOS y varias versiones de Ubuntu.
Por qué importa
Los desarrolladores pueden ejecutar llamadas repetidas al modelo en la GPU sin tener que reinicializarla, una operación costosa, lo que mejora la velocidad de respuesta de las aplicaciones de IA locales.
