ggml-org heeft versie b12224 van llama.cpp uitgebracht. De update voorkomt dat invoergegevens worden verstuurd die de backend niet uitleest en verhelpt daarmee een kleine prestatiebug. Ook bevat de release kant-en-klare binaries voor macOS op Apple Silicon, macOS op Intel, iOS en meerdere Ubuntu-builds voor CPU's, waaronder ondersteuning voor s390x en Vulkan. De release-opmerkingen bevatten links naar de downloadbestanden en attesten.
Waarom het ertoe doet
Ontwikkelaars kunnen Llama.cpp nu lokaal op meer hardware gebruiken zonder het zelf vanaf de broncode te compileren. Dat scheelt tijd bij het instellen.
