Il progetto llama.cpp ha rilasciato la versione b11703 il 17 ottobre 2026. La versione introduce una funzione softplus vettorializzata che viene eseguita sull’NPU Qualcomm Hexagon (HVX). Il nuovo helper usa le primitive Hexagon già disponibili per exp e log, mantenendo invariata la matematica rispetto alla versione per CPU. La modifica è elencata nella build Android arm64 compatibile con processori Snapdragon, GPU Adreno e NPU Hexagon.
Perché conta
Gli sviluppatori possono ora eseguire l’inferenza LLM più velocemente sui telefoni dotati di NPU Hexagon, ampliando i casi d’uso a basso consumo di llama.cpp.
