Oossa

llama.cpp waarschuwt voor gebruik van draft-p-min

De nieuwe versie waarschuwt wanneer de p_min-vlag wordt gecombineerd met probabilistische draftsampling, om te voorkomen dat tokens onbedoeld worden overgeslagen.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

De opensourcebibliotheek llama.cpp heeft op 2026-11-13 versie b12364 uitgebracht. De bibliotheek logt nu een waarschuwing als de vlag --spec-draft-p-min is ingesteld bij probabilistische draftsampling, met het advies om p_min op nul te zetten. De wijziging slaat de p_min-drempel over voor MTP- en DFlash2-drafts, die eerder tokens konden laten vallen die het doelmodel wel zou accepteren. De waarschuwing verschijnt alleen bij draftermodellen die daadwerkelijk p_min gebruiken, zodat n-gram- en DSpark-drafters geen onnodige meldingen geven.

Waarom het ertoe doet

Ontwikkelaars kunnen stilzwijgend tokenverlies voorkomen wanneer ze draftmodellen finetunen, wat tot betrouwbaardere generatie leidt.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.