Le projet llama.cpp a publié la version b11703 le 17 oct. 2026. Elle ajoute une fonction softplus vectorisée qui s’exécute sur le NPU Hexagon de Qualcomm (HVX). Ce nouvel outil s’appuie sur les primitives Hexagon existantes pour exp et log, afin de conserver les mêmes calculs que la version pour processeur. Cette modification figure dans la version Android arm64, compatible avec les processeurs Snapdragon, les processeurs graphiques Adreno et les NPU Hexagon.
Pourquoi c'est important
Les développeurs peuvent désormais accélérer l’inférence des LLM sur les téléphones équipés d’un NPU Hexagon, ce qui élargit les usages de llama.cpp à faible consommation d’énergie.
