ggml-org heeft llama.cpp versie b12340 uitgebracht. De update verhelpt een server-side request forgery (SSRF)-kwetsbaarheid in de CORS-proxy en media-URL's. Ook bevat de release vooraf gebouwde binaries voor macOS met Apple Silicon, macOS met Intel, iOS en verschillende Ubuntu-configuraties voor CPU en Vulkan. De bestanden zijn te downloaden via de GitHub-releasepagina.
Ontwikkelaars kunnen de bijgewerkte runtime nu gebruiken zonder de eerder gemelde SSRF-kwetsbaarheid en beschikken over kant-en-klare binaries voor meer platforms.
Waarom het ertoe doet
Ontwikkelaars kunnen llama.cpp-servers veiliger inzetten en de runtime eenvoudiger gebruiken op macOS-, iOS- en Ubuntu-systemen.
