llama.cpp 更新让 Intel Arc GPU 上的 GLM 提示词处理提速近 3 倍

新的 SYCL 改动让 Intel Arc Pro B70 的 token 处理速度最高提升 3 倍，并减少了 Flash Attention 的内存流量。

简讯作者： OossaOossa 发布日期: 2026年10月7日 11:07 UTC1 分钟阅读

llama.cpp 库新增了 SYCL 支持，可加速 GLM‑4.7 的 Flash Attention。在 Intel Arc Pro B70 GPU 上，处理 8192-token 上下文时的提示词预填充速度从每秒 432.80 个 token 提升至 1,292.29 个，接近原来的 3 倍。另一项改动将中间分数从单精度改为半精度（F16）存储，在减少内存占用的同时，让处理时间缩短了几个百分点。其他工作负载表现不变。