Oossa

llama.cpp 更新修复采样图不稳定问题

2026年10月9日发布的版本让后端采样图在不同 ubatch 间保持静态,提升了所有受支持平台上的稳定性。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml‑org/llama.cpp 项目于 2026‑10‑09 发布 b11530 版本。此次更新让后端采样图在不同 ubatch 间保持静态,因此图结构在 reserve 和 decode 阶段不再变化。这修复了因 reserve 构建完成后图拓扑发生变化而导致的崩溃。该修复适用于所有列出的构建版本——macOS、Linux、Android、Windows 和 openEuler,也适用于 CUDA、Vulkan 和 OpenCL 等所有硬件后端。

为什么重要

在任何受支持的 CPU 或 GPU 上运行多输出生成任务时,llama.cpp 开发者遇到的运行时错误会减少。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。