Oossa

llama.cpp b12102 修正跨步张量视图检查

此版本调整了 llama.cpp 对张量视图内存范围的检查,解决旧检查可能误拒安全视图或漏掉越界读取的问题。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml-org 团队发布了 llama.cpp b12102,调整了对跨步张量视图内存范围的检查方式。此前的检查可能会拒绝行之间有重叠、但仍处于源数据范围内的视图,同时可能放过跨步较大的视图,导致其访问范围超出源数据。

更新后的视图函数会将步长传给张量构造函数,由后者检查视图实际访问的字节范围。该版本还会断言跨步视图在其第一个维度上从连续元素开始。发布页面列出了 macOS、Linux、Android 和 Windows 等平台的构建包。

为什么重要

对于使用 llama.cpp 的开发者,修订后的检查有助于阻止越界张量视图通过验证;发布说明并未量化其对模型性能的影响。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。