La libreria open source llama.cpp ha pubblicato una nuova versione il 2026‑10‑18, che aggiunge il supporto a SUM non contigui. La modifica è disponibile sui backend CPU, CUDA, Vulkan e WebGPU; la suite di test include ora anche casi relativi a queste viste. L’aggiornamento amplia inoltre l’elenco dei binari precompilati per macOS, Linux, Android e Windows, con il supporto a numerose combinazioni hardware, tra cui Apple Silicon, Intel, AMD, NVIDIA CUDA 12/13 e Snapdragon NPU. Il sito web del progetto e le attestazioni sono linkati per il download.
Perché conta
Gli sviluppatori possono ora eseguire somme più rapide e con un uso più efficiente della memoria su una gamma più ampia di dispositivi, migliorando le prestazioni delle pipeline di inferenza degli LLM.
