Oossa

llama.cpp añade softplus acelerado por Hexagon

La biblioteca de código abierto llama.cpp ahora ejecuta la función de activación softplus en la NPU Hexagon de Qualcomm, lo que mejora el rendimiento en dispositivos Android compatibles.

BrevePor Publicado por Oossa: 1 min de lectura

El proyecto llama.cpp lanzó la versión b11703 el 17 de octubre de 2026. Añade una función softplus vectorizada que se ejecuta en la NPU Hexagon (HVX) de Qualcomm. La nueva función auxiliar utiliza primitivas de Hexagon ya existentes para exp y log, por lo que los cálculos son los mismos que en la versión para CPU. El cambio aparece en la compilación para Android arm64, compatible con procesadores Snapdragon, GPU Adreno y NPU Hexagon.

Por qué importa

Los desarrolladores ahora pueden ejecutar inferencias de LLM más rápido en teléfonos con NPU Hexagon, lo que amplía los usos de bajo consumo de llama.cpp.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.