Oossa

llama.cpp añade compatibilidad con SUM no contiguas

La biblioteca ggml‑org/llama.cpp ahora admite operaciones SUM en tensores no contiguos en CPU, CUDA, Vulkan y WebGPU.

BrevePor Publicado por Oossa: 1 min de lectura

La biblioteca de código abierto llama.cpp publicó una nueva versión el 2026‑10‑18 que añade compatibilidad con SUM no contiguas. El cambio funciona en las plataformas CPU, CUDA, Vulkan y WebGPU, y el conjunto de pruebas ahora incluye casos para estas vistas. La actualización también amplía la lista de binarios precompilados para macOS, Linux, Android y Windows, con numerosas combinaciones de hardware, como Apple Silicon, Intel, AMD, NVIDIA CUDA 12/13 y Snapdragon NPU. Se incluyen enlaces al sitio web del proyecto y a las atestaciones para descargarla.

Por qué importa

Los desarrolladores ahora pueden ejecutar sumas más rápidas y eficientes en el uso de memoria en una gama más amplia de dispositivos, lo que mejora el rendimiento de las canalizaciones de inferencia de LLM.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.