# llama.cpp 为推测解码新增 logprob 支持

> 开源 Llama.cpp 库现已支持在推测解码时返回 token 的对数概率，修复了 master 分支中的回归问题。

Oossa · 2026-10-21 · https://oossa.com/zh/llama-cpp-adds-logprob-support-for-speculative-decoding

ggml‑org/llama.cpp 项目于 2026-10-21 发布 b11776 版本。此次更新新增了在推测解码过程中返回对数概率（logprobs）的支持。推测解码是一种通过提前猜测 token 来加快生成速度的技术。项目还新增了一项回归测试，确保返回的新 logprob 值与未使用推测解码时一致。此修复解决了 master 分支返回空 logprob 数据的问题。

## 事实

- b11776 版本新增了推测解码的 logprob 输出支持（#27196）。
- 发布日期：2026 年 10 月 21 日，星期三。

## 为什么重要

开发者现在使用快速推测解码时，也能查看每个 token 的置信度分数，从而帮助调试并提升生成质量。

## 来源与参考

1. [ggml-org/llama.cpp b11776](https://github.com/ggml-org/llama.cpp/releases/tag/b11776) – llama.cpp, 2026-10-21

最后更新: 2026-10-21