Il team ggml-org ha pubblicato la versione b11406 di llama.cpp. L’aggiornamento aggiunge il supporto WebGPU ai percorsi di quantizzazione MMVQ Q1_0, Q5_0, Q5_1, Q3_K, Q5_K, Q6_K e MXFP4. La release include anche binari precompilati per macOS (Apple Silicon e Intel), iOS e diverse build di Ubuntu (CPU, Vulkan e CUDA).
Perché conta
Gli sviluppatori possono ora eseguire più modelli linguistici di grandi dimensioni con un uso più efficiente della memoria nei browser o su GPU compatibili con WebGPU, ampliando le possibilità di distribuzione di llama.cpp.