Het ggml-org-team heeft llama.cpp b12171 uitgebracht, met een wijziging voor Vulkan: de software detecteert of een systeem ReBAR (Resizable BAR) ondersteunt en wijst geen BAR-geheugen toe als die ondersteuning ontbreekt. Op de releasepagina staan downloadbare builds voor macOS, iOS en Linux, waaronder voor sommige platforms versies voor CPU en Vulkan.
In de release notes staat niet welke hardware of workloads hiervan in de praktijk verschil zullen merken.
Waarom het ertoe doet
Voor wie llama.cpp met Vulkan gebruikt op een systeem zonder ReBAR-ondersteuning, moet deze wijziging toewijzing van BAR-geheugen voorkomen. De release notes geven geen cijfers over het effect op prestaties of geheugengebruik.
