Oossa

llama.cpp suma kernels Q8_0 e i8mm para Apple y Linux

La biblioteca de inferencia LLaMA de código abierto incorpora kernels cuantizados más rápidos para ARM SVE e i8mm, además de nuevos binarios para macOS, iOS y Ubuntu.

BrevePor Publicado por Oossa: 1 min de lectura

El proyecto llama.cpp publicó la versión b11811 el 22 de octubre de 2026. La actualización añade kernels GEMV de producto punto SVE Q8_0 y kernels GEMM SVE i8mm, que aceleran la inferencia de modelos cuantizados en CPU ARM. Ya se pueden descargar binarios precompilados para Apple Silicon, Intel, macOS, iOS y varias versiones de Ubuntu (CPU, Vulkan y CUDA 12.8).

Por qué importa

Los desarrolladores pueden ejecutar modelos LLaMA más rápido en hardware ARM reciente y en GPU de Linux, sin tener que escribir código personalizado.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.