ggml-org 团队发布了 llama.cpp b12102,调整了对跨步张量视图内存范围的检查方式。此前的检查可能会拒绝行之间有重叠、但仍处于源数据范围内的视图,同时可能放过跨步较大的视图,导致其访问范围超出源数据。
更新后的视图函数会将步长传给张量构造函数,由后者检查视图实际访问的字节范围。该版本还会断言跨步视图在其第一个维度上从连续元素开始。发布页面列出了 macOS、Linux、Android 和 Windows 等平台的构建包。
为什么重要
对于使用 llama.cpp 的开发者,修订后的检查有助于阻止越界张量视图通过验证;发布说明并未量化其对模型性能的影响。