Das ggml-org-Team hat llama.cpp b12419 mit einer Änderung am Server veröffentlicht: Er ignoriert jetzt leere Stop-Strings. Stop-Strings sind Textfolgen, die einem Modell vorgeben, wann es eine Antwort beenden soll.
Auf der Release-Seite sind Builds für macOS, iOS und Linux aufgeführt, darunter CPU- und Vulkan-Versionen für einige Linux-Systeme.
Warum es wichtig ist
Wer den llama.cpp-Server betreibt, kann leere Stop-Strings angeben, ohne dass der Server sie als Stop-Sequenzen behandelt. Die Release Notes erläutern keine weiteren Verhaltensänderungen.