Oossa

llama.cpp b11792 permite mantener los datos en la GPU

El entorno de ejecución de LLM de código abierto publica nuevos binarios y una optimización que mantiene los datos más tiempo en la GPU.

BrevePor Publicado por Oossa: 1 min de lectura

El equipo de ggml-org publicó la versión b11792 de llama.cpp el 2026-10-21. La actualización modifica la llamada set_rows para que los datos puedan permanecer en la GPU, lo que mejora la velocidad para quienes usan GPU. Ya están disponibles binarios precompilados para macOS con Apple Silicon, macOS con Intel, iOS y varias versiones de Ubuntu (CPU, Vulkan, CUDA 12.8). Los enlaces de descarga están en la página de la etiqueta en GitHub.

En las notas de la versión, el cambio aparece descrito así: «place d2t by its set_rows use so it can stay on the GPU (#30912)».

Por qué importa

Los desarrolladores pueden ejecutar modelos Llama más rápido en GPU compatibles, sin transferencias de datos adicionales.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.