Oossa

llama.cpp avvisa sull’uso di draft-p-min

La nuova versione segnala quando il flag p_min è combinato con il campionamento probabilistico dei draft, per evitare che vengano scartati token per errore.

BreveDi Pubblicato da Oossa: 1 min di lettura

La libreria open source llama.cpp ha rilasciato la versione b12364 il 2026-11-13. Ora mostra un avviso se il flag --spec-draft-p-min è impostato durante il campionamento probabilistico dei draft e suggerisce di impostare p_min a zero. La modifica salta la soglia p_min per i draft MTP e DFlash2, che in precedenza potevano scartare token accettati dal modello target. L’avviso compare solo per i sistemi di generazione dei draft che usano effettivamente p_min, evitando messaggi superflui per i draft n-gram e DSpark.

Perché conta

Gli sviluppatori possono evitare perdite silenziose di token quando perfezionano i modelli draft, ottenendo generazioni più affidabili.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.