Teamet ggml-org har släppt llama.cpp version b11796. Uppdateringen lägger till ett nytt tillståndsobjekt för funktionen mtmd_gen. Den innehåller också färdigbyggda binärer för macOS (Apple Silicon och Intel), iOS och flera Ubuntu-varianter, däribland byggen för CPU, Vulkan och CUDA 12.8.
Varför det spelar roll
Utvecklare kan nu köra llama.cpp på fler typer av hårdvara, särskilt GPU:er med CUDA 12.8, utan att behöva bygga programmet själva.