ggml-org ha pubblicato la versione b12318 di llama.cpp il 2026-11-12. L’aggiornamento aggiunge un pool di buffer per il debug CUDA, utile agli sviluppatori per monitorare l’uso della memoria con compute-sanitizer. Include inoltre nuovi binari precompilati per Apple Silicon, macOS Intel, iOS e diverse configurazioni Ubuntu per CPU e Vulkan.
Perché conta
Gli sviluppatori che eseguono modelli LLaMA su GPU NVIDIA possono ora individuare più facilmente i problemi di memoria, riducendo gli arresti anomali durante l’inferenza.
