El equipo de ggml-org publicó la versión b11792 de llama.cpp el 2026-10-21. La actualización modifica la llamada set_rows para que los datos puedan permanecer en la GPU, lo que mejora la velocidad para quienes usan GPU. Ya están disponibles binarios precompilados para macOS con Apple Silicon, macOS con Intel, iOS y varias versiones de Ubuntu (CPU, Vulkan, CUDA 12.8). Los enlaces de descarga están en la página de la etiqueta en GitHub.
En las notas de la versión, el cambio aparece descrito así: «place d2t by its set_rows use so it can stay on the GPU (#30912)».
Por qué importa
Los desarrolladores pueden ejecutar modelos Llama más rápido en GPU compatibles, sin transferencias de datos adicionales.