Oossa

llama.cpp acelera softplus com Hexagon

A biblioteca de código aberto llama.cpp agora executa a ativação softplus na NPU Hexagon da Qualcomm, melhorando o desempenho em dispositivos Android compatíveis.

NotaPor Publicado pelo Oossa: 1 min de leitura

O projeto llama.cpp lançou a versão b11703 em 17 de outubro de 2026. Ela adiciona uma função softplus vetorizada, executada na NPU Hexagon (HVX) da Qualcomm. A nova função auxiliar usa primitivas Hexagon já existentes para exp e log, mantendo a mesma matemática da versão para CPU. A mudança está listada na compilação Android arm64, compatível com CPUs Snapdragon, GPUs Adreno e NPUs Hexagon.

Por que importa

Agora, desenvolvedores podem executar inferência de LLM mais rapidamente em celulares com NPUs Hexagon, ampliando os casos de uso do llama.cpp com baixo consumo de energia.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.