llama.cpp 项目的 b11815 版本修复了 SYCL 后端处理按通道顺序排列的输入和卷积核时的二维卷积(Conv2D)问题。此前,该操作可能会以错误的元素偏移量读取非连续输入,并悄无声息地返回错误结果。
此次更改将该操作限制为处理连续的输入和卷积核,以符合 CUDA 后端的约定,并新增了输入连续性检查。项目报告称,SYCL Conv2D 测试的失败数从 16 项降至 0 项;2,006 项测试全部通过。
为什么重要
对于使用 llama.cpp SYCL 后端的开发者来说,此次修复解决了 Conv2D 可能悄然产生错误结果的问题。不过,发布说明没有指出哪些应用或硬件用户可能会遇到这种张量布局。