# llama.cpp新增SYCL权重重排，提升IQ3推理速度

> 开源库llama.cpp现在会在加载时重排IQ3_S和IQ3_XXS权重，提升Intel Arc GPU上的token处理速度。

Oossa · 2026-10-15 · https://oossa.com/zh/llama-cpp-adds-sycl-weight-reorder-for-faster-iq3-inference

llama.cpp项目于2026-10-15发布b11636版本。该版本在SYCL环境下为IQ3_S和IQ3_XXS量化格式加入了持久化权重布局。模型加载时，权重只需重排一次，之后GPU便可处理密集区块，无需再收集比特，从而加快解码和预填充。在Intel Arc Pro B70 GPU上，Qwen3.8‑27B模型处理短提示词时的速度从每秒12.92个token提升至23.54个，增幅达82%。

## 事实

- 发布日期：2026-10-15（“Thu Oct 15 2026 06:50:37 GMT+0200”）
- Intel Arc Pro B70上IQ3_S的token处理速度从12.92 t/s提升至23.54 t/s（+82%）

## 为什么重要

在兼容SYCL的GPU上运行llama.cpp的开发者，无需修改模型代码，就能显著加快响应速度。

## 来源与参考

1. [ggml-org/llama.cpp b11636](https://github.com/ggml-org/llama.cpp/releases/tag/b11636) – llama.cpp, 2026-10-15

最后更新: 2026-10-15