Il progetto llama.cpp ha pubblicato la versione b11811 il 22 ottobre 2026. L’aggiornamento introduce i kernel GEMV con prodotto scalare SVE Q8_0 e GEMM SVE i8mm, che accelerano l’inferenza dei modelli quantizzati sulle CPU ARM. Sono ora disponibili per il download binari precompilati per macOS su Apple Silicon, Intel, iOS e diverse versioni di Ubuntu (CPU, Vulkan, CUDA 12.8).
Perché conta
Gli sviluppatori possono eseguire i modelli LLaMA più velocemente sui dispositivi ARM più recenti e sulle GPU Linux senza dover scrivere codice personalizzato.
