llama.cpp、投機的デコードでlogprobに対応

オープンソースのLlama.cppライブラリが、投機的デコード時にトークンの対数確率を返すようになりました。masterブランチでの不具合も修正されています。

短信著者： OossaOossa公開日: 2026年10月21日 3:08 UTC1 分で読める

ggml‑org/llama.cppプロジェクトは2026-10-21にバージョンb11776をリリースしました。このアップデートでは、トークンを先読みして生成を高速化する手法「投機的デコード」の実行中に、対数確率（logprobs）を返す機能が追加されました。また、新しいlogprobの値が投機的デコードを使わない場合の実行結果と一致することを確認する回帰テストも追加されました。masterブランチでlogprobのデータが空で返されるバグも修正されています。