Oossa

llama.cpp b12419 negeert lege stopstrings

De release laat de llama.cpp-server lege stopstrings negeren. Er zijn ook downloadbare builds voor verschillende besturingssystemen en processortypen.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Het team van ggml-org heeft llama.cpp b12419 uitgebracht. De server negeert voortaan lege stopstrings. Stopstrings zijn tekstreeksen die aangeven wanneer een model een antwoord moet beëindigen.

Op de releasepagina staan builds voor macOS, iOS en Linux, waaronder CPU- en Vulkan-versies voor sommige Linux-systemen.

Waarom het ertoe doet

Wie de llama.cpp-server gebruikt, kan lege stopstrings opgeven zonder dat de server ze als stopreeksen behandelt; de releasenotities vermelden geen andere gedragswijzigingen.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.