ggml-org har släppt llama.cpp version b12088. Uppdateringen lägger till stöd för modellformatet NVFP4 LFM3 och innehåller färdigbyggda binärer för Apple Silicon, Intel-baserade Mac-datorer, iOS och flera Ubuntu-konfigurationer, bland annat versioner för enbart CPU och Vulkan. macOS-versionen för Apple Silicon med KleidiAI finns med i listan men är för närvarande inaktiverad. Alla filer kan laddas ner från GitHub-sidan för versionen.
Varför det spelar roll
Utvecklare kan nu köra llama.cpp med det nya modellformatet och använda färdigbyggda binärer för fler plattformar, vilket minskar tiden för installation och konfigurering.
