Oossa

llama.cpp b12419: il server ignora le stringhe di arresto vuote

La nuova versione indica al server di llama.cpp di ignorare le stringhe di arresto vuote. Sono inoltre disponibili build scaricabili per diversi sistemi operativi e tipi di processore.

BreveDi Pubblicato da Oossa: 1 min di lettura

Il team ggml-org ha rilasciato llama.cpp b12419, che introduce una modifica al server: ora ignora le stringhe di arresto vuote. Le stringhe di arresto sono sequenze di testo che indicano al modello quando terminare una risposta.

La pagina della versione elenca build per macOS, iOS e Linux, comprese alcune versioni per CPU e Vulkan destinate a sistemi Linux.

Perché conta

Chi usa il server di llama.cpp può fornire stringhe di arresto vuote senza che il server le tratti come sequenze di arresto; le note di rilascio non illustrano altri cambiamenti nel comportamento.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.