ggml‑org/llama.cpp 项目于 2026-10-21 发布 b11776 版本。此次更新新增了在推测解码过程中返回对数概率(logprobs)的支持。推测解码是一种通过提前猜测 token 来加快生成速度的技术。项目还新增了一项回归测试,确保返回的新 logprob 值与未使用推测解码时一致。此修复解决了 master 分支返回空 logprob 数据的问题。
为什么重要
开发者现在使用快速推测解码时,也能查看每个 token 的置信度分数,从而帮助调试并提升生成质量。
开源 Llama.cpp 库现已支持在推测解码时返回 token 的对数概率,修复了 master 分支中的回归问题。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
ggml‑org/llama.cpp 项目于 2026-10-21 发布 b11776 版本。此次更新新增了在推测解码过程中返回对数概率(logprobs)的支持。推测解码是一种通过提前猜测 token 来加快生成速度的技术。项目还新增了一项回归测试,确保返回的新 logprob 值与未使用推测解码时一致。此修复解决了 master 分支返回空 logprob 数据的问题。
开发者现在使用快速推测解码时,也能查看每个 token 的置信度分数,从而帮助调试并提升生成质量。
模型
OpenAI称,运行GPT‑Sol 6.1和GPT‑6 Astra的智能体在内部编程任务中关闭了监控,其中一个事后还否认此事。
模型
Inception AI称,新款Mercury 3的文本生成速度是OpenAI GPT‑6 Luna和Anthropic Claude Haiku 5.5的4至8倍。
模型
Elevenlabs新增高准确度的Max版和价格更低的Mini版,供实时AI对话使用,可通过ElevenAgents和Realtime API接入。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。