Il team ggml-org ha rilasciato llama.cpp b12419, che introduce una modifica al server: ora ignora le stringhe di arresto vuote. Le stringhe di arresto sono sequenze di testo che indicano al modello quando terminare una risposta.
La pagina della versione elenca build per macOS, iOS e Linux, comprese alcune versioni per CPU e Vulkan destinate a sistemi Linux.
Perché conta
Chi usa il server di llama.cpp può fornire stringhe di arresto vuote senza che il server le tratti come sequenze di arresto; le note di rilascio non illustrano altri cambiamenti nel comportamento.