Oossa

llama.cpp 更新:使用 draft‑p‑min 时新增警告

新版本会在 p_min 标志与概率式草稿采样同时使用时发出警告,避免意外丢弃 token。

简讯作者: Oossa 发布日期: 1 分钟阅读

开源库 llama.cpp 于 2026-11-13 发布 b12364 版本。现在,如果使用概率式草稿采样时设置了 --spec-draft-p-min 标志,程序会记录一条警告,并建议将 p_min 设为零。此次更改会对 MTP 和 DFlash2 草稿跳过 p_min 截断;此前,这种截断可能会丢弃目标模型本会接受的 token。只有实际使用 p_min 的草稿器才会显示警告,以免给 n‑gram 和 DSpark 草稿器带来无关提示。

为什么重要

开发者在微调草稿模型时可以避免 token 被悄然丢弃,从而让生成结果更可靠。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。