Oossa

llama.cpp更新、draft-p-min使用時に警告を追加

新バージョンでは、確率的なドラフトサンプリングとp_minフラグを併用すると警告が表示され、意図しないトークンの破棄を防ぎます。

短信著者: Oossa公開日: 1 分で読める

オープンソースのllama.cppライブラリが2026-11-13にバージョンb12364をリリースしました。確率的なドラフトサンプリングを使用中に--spec-draft-p-minフラグが設定されていると、p_minをゼロにするよう促す警告をログに出力します。この変更により、MTPとDFlash2のドラフトではp_minによるカットオフが適用されなくなりました。従来はそのために、ターゲットモデルなら受け入れるトークンが破棄される場合がありました。警告が出るのは実際にp_minを使用するドラフターに限られ、n-gramやDSparkのドラフターで不要な警告が表示されることはありません。

なぜ重要か

開発者はドラフトモデルの調整時にトークンが気づかないうちに失われるのを防ぎ、より信頼性の高い生成を実現できます。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。