ggml‑org heeft llama.cpp versie b12088 uitgebracht. De update voegt ondersteuning toe voor het NVFP4 LFM3-modelformaat en bevat kant-en-klare binaries voor Apple Silicon, Intel-macs, iOS en verschillende Ubuntu-configuraties, waaronder builds die alleen de CPU gebruiken en builds voor Vulkan. De macOS-build voor Apple Silicon met KleidiAI staat vermeld, maar is momenteel uitgeschakeld. Alle bestanden zijn te downloaden via de GitHub-releasepagina.
Waarom het ertoe doet
Ontwikkelaars kunnen llama.cpp nu met het nieuwe modelformaat gebruiken en beschikken over kant-en-klare binaries voor meer platforms, waardoor ze minder tijd kwijt zijn aan de installatie.
