Oossa

llama.cpp b12419 ignorerar tomma stoppsträngar

I den nya versionen ignorerar llama.cpp-servern tomma stoppsträngar. Det finns också nedladdningsbara versioner för flera operativsystem och processortyper.

NotisAv Publicerad av Oossa: 1 min läsning

ggml-org-teamet har släppt llama.cpp b12419 med en ändring av servern: den ignorerar nu tomma stoppsträngar. Stoppsträngar är textsekvenser som talar om för en modell när den ska avsluta ett svar.

På releasesidan listas versioner för macOS, iOS och Linux, bland annat CPU- och Vulkan-versioner för vissa Linux-system.

Varför det spelar roll

Den som kör llama.cpp-servern kan ange tomma stoppsträngar utan att servern behandlar dem som stoppsekvenser. Versionsinformationen beskriver inte några andra beteendeförändringar.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.