Open source-biblioteket llama.cpp släppte version b12364 den 2026-11-13. Nu loggas en varning om flaggan --spec-draft-p-min är inställd samtidigt som sannolikhetsbaserad utkastprovtagning används. Rekommendationen är att sätta p_min till noll. Ändringen gör att p_min-gränsen inte tillämpas på MTP- och DFlash2-utkast, som tidigare kunde kasta bort token som målmodellen skulle ha accepterat. Varningen visas bara för utkastmodeller som faktiskt använder p_min, så att n-gram- och DSpark-utkastmodeller inte ger onödiga varningar.
Varför det spelar roll
Utvecklare kan undvika att token försvinner obemärkt när de finjusterar utkastmodeller, vilket ger mer tillförlitlig textgenerering.
