Oossa

llama.cpp 更新修复多线程缓冲区越界问题

2026 年 10 月 15 日发布的版本修补了一处漏洞:并行线程会写出转换缓冲区边界,修复后可提升多核 CPU 上的运行稳定性。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml‑org/llama.cpp 项目于 2026 年 10 月 15 日发布 b11633 版本。此次更新调整了 SET_ROWS 操作分配转换缓冲区的方式,确保每个线程都有自己的空间。此前,除第一个线程外,其他线程都会写出缓冲区边界,导致多线程运行时发生崩溃。修复后,SET_ROWS 会按每个线程一个任务的方式运行,使缓冲区大小与线程数相匹配。

为什么重要

在多核 CPU 上使用 llama.cpp 的开发者,在并行运行模型时遇到的崩溃将会减少。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。