Il team ggml-org ha pubblicato il tag b12322 di llama.cpp il 12 Nov 2026. La modifica cambia il modo in cui i risultati del grafo riservano i metadati: vengono allocate solo le pagine necessarie, anziché inizializzare l’intera area riservata. In questo modo la libreria utilizza meno RAM durante l’inferenza.
L’aggiornamento è disponibile per tutte le piattaforme elencate, dalle CPU di macOS e Windows alle build per Linux con CUDA, Vulkan e OpenVINO.
Perché conta
Gli sviluppatori che eseguono modelli LLaMA su dispositivi con memoria limitata consumeranno meno RAM, e potranno usare modelli più grandi o svolgere più attività contemporaneamente con maggiore fluidità.
