Il team ggml-org ha pubblicato la versione b11790 di llama.cpp il 21 ottobre 2026. L’aggiornamento aggiunge il repack vettorializzato NEON per la quantizzazione Q4_0 e il supporto ai thread per altri tipi, migliorando le prestazioni sulle CPU ARM. Sono ora disponibili binari precompilati per macOS su Apple Silicon, iOS e varie build Linux per ARM. Le modifiche sono state realizzate in collaborazione con un ingegnere di Qualcomm. La release include anche build Vulkan per Linux x64 e arm64.
Perché conta
I laptop e gli smartphone basati su ARM possono eseguire i modelli Llama più velocemente, rendendo più pratico usare l’IA in locale.
