Il team ggml-org ha rilasciato llama.cpp b12171, che introduce una modifica a Vulkan: rileva se il sistema supporta ReBAR, o Resizable BAR, ed evita le allocazioni BAR quando il supporto non è disponibile. La pagina della release elenca build scaricabili per macOS, iOS e Linux, comprese versioni per CPU e Vulkan per alcune piattaforme.
Le note di rilascio non specificano quali hardware o carichi di lavoro noteranno una differenza concreta.
Perché conta
Per chi usa llama.cpp con Vulkan su sistemi senza supporto a ReBAR, la modifica mira a evitare le allocazioni BAR; le note di rilascio non quantificano gli effetti sulle prestazioni o sull’uso della memoria.
