オープンソースのllama.cppライブラリが2026-11-13にバージョンb12364をリリースしました。確率的なドラフトサンプリングを使用中に--spec-draft-p-minフラグが設定されていると、p_minをゼロにするよう促す警告をログに出力します。この変更により、MTPとDFlash2のドラフトではp_minによるカットオフが適用されなくなりました。従来はそのために、ターゲットモデルなら受け入れるトークンが破棄される場合がありました。警告が出るのは実際にp_minを使用するドラフターに限られ、n-gramやDSparkのドラフターで不要な警告が表示されることはありません。
なぜ重要か
開発者はドラフトモデルの調整時にトークンが気づかないうちに失われるのを防ぎ、より信頼性の高い生成を実現できます。