Il team ggml-org ha pubblicato llama.cpp versione b11713 il 17 ott 2026. L’aggiornamento migliora le prestazioni CUDA per i tipi a bassa precisione grazie a un algoritmo MMVQ più veloce. Include anche una piccola correzione per le GPU HIP (AMD) nelle quantizzazioni Q3_K e Q6_K. Sono ora disponibili per il download binari precompilati per macOS, iOS e diverse versioni di Ubuntu (CPU, Vulkan, CUDA).
Perché conta
Gli sviluppatori possono eseguire più rapidamente LLM quantizzati sulle GPU NVIDIA, riducendo i costi di inferenza per le applicazioni di IA locali.
