开源库 llama.cpp 于 2026-11-13 发布 b12364 版本。现在,如果使用概率式草稿采样时设置了 --spec-draft-p-min 标志,程序会记录一条警告,并建议将 p_min 设为零。此次更改会对 MTP 和 DFlash2 草稿跳过 p_min 截断;此前,这种截断可能会丢弃目标模型本会接受的 token。只有实际使用 p_min 的草稿器才会显示警告,以免给 n‑gram 和 DSpark 草稿器带来无关提示。
为什么重要
开发者在微调草稿模型时可以避免 token 被悄然丢弃,从而让生成结果更可靠。