Het team van ggml-org heeft llama.cpp b11867 uitgebracht. In de release notes staat dat het server-entrypoint is herzien. Op de releasepagina staan builds voor macOS, iOS en Linux, met opties voor CPU, Vulkan en CUDA.
De beschikbare informatie licht niet toe wat er voor servergebruikers verandert, en evenmin of de herziening gevolgen heeft voor de prestaties of compatibiliteit.
Waarom het ertoe doet
Ontwikkelaars die een llama.cpp-build kiezen, vinden downloads voor verschillende platforms en hardwaretypen. De beschikbare release notes geven echter niet aan of de herziening van het server-entrypoint iets verandert aan de installatie of werking.
