Oossa

llama.cpp añade reempaquetado de tensores Hexagon y nuevas cuantizaciones

La versión b11680, publicada el 16 de octubre de 2026, reorganiza el soporte para Hexagon, incorpora get-rows en bloques para Q5_K y tensores k-quant sin procesar, y amplía los back-ends de hardware.

BrevePor Publicado por Oossa: 1 min de lectura

La biblioteca de código abierto llama.cpp publicó la versión b11680 el 16 de octubre de 2026. La actualización renueva el código para la NPU Hexagon: elimina un apaño, añade el reempaquetado de tensores para pesos F16/F32/BF16 y admite get-rows en bloques para Q5_K y tensores k-quant sin procesar. Los cambios también depuran numerosos kernels internos y mejoran el rendimiento en varios back-ends, como CPU, CUDA, Vulkan y dispositivos con Hexagon. El proyecto ofrece compilaciones para macOS, Linux, Android, Windows y varias configuraciones de openEuler.

Por qué importa

Los desarrolladores ahora pueden ejecutar modelos de llama.cpp con mayor eficiencia en teléfonos con Hexagon y otros dispositivos especializados.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.