Het team van ggml-org heeft llama.cpp b12419 uitgebracht. De server negeert voortaan lege stopstrings. Stopstrings zijn tekstreeksen die aangeven wanneer een model een antwoord moet beëindigen.
Op de releasepagina staan builds voor macOS, iOS en Linux, waaronder CPU- en Vulkan-versies voor sommige Linux-systemen.
Waarom het ertoe doet
Wie de llama.cpp-server gebruikt, kan lege stopstrings opgeven zonder dat de server ze als stopreeksen behandelt; de releasenotities vermelden geen andere gedragswijzigingen.