Oossa

llama.cpp incorpora un búfer de depuración CUDA en la versión b12318

La biblioteca de inferencia LLaMA de código abierto añade un búfer de depuración CUDA y actualiza las compilaciones binarias para macOS, iOS y Linux.

BrevePor Publicado por Oossa: 1 min de lectura

ggml‑org publicó la versión b12318 de llama.cpp el 2026‑11‑12. La actualización incorpora un búfer de depuración CUDA que ayuda a los desarrolladores a supervisar el uso de memoria con compute-sanitizer. También incluye nuevos binarios precompilados para Apple Silicon, macOS con Intel, iOS y varias configuraciones de Ubuntu para CPU y Vulkan.

Por qué importa

Los desarrolladores que ejecutan modelos LLaMA en GPU NVIDIA ahora pueden depurar con más facilidad los problemas de memoria y reducir los fallos durante la inferencia.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.