ggml-org 发布的 llama.cpp b11977 修复了 OpenVINO 后端处理切片张量视图上的 SCALE 操作时的问题。此前,带步长的视图可能会被当作完整的源张量处理,生成过大的结果,并可能导致测试崩溃。
此次修复会将视图作为切片处理,并禁止对非连续视图执行原地 SCALE 操作,因为将结果复制回去时可能会写入错误的元素。该版本还列出了适用于 macOS、Linux、Android 和 Windows 等平台的构建版本。
为什么重要
对于使用 llama.cpp 的 OpenVINO 后端处理切片张量输入的开发者,此次修复解决了一个可能导致测试崩溃或结果写入错误元素的问题。