llama.cpp b11971 为 Adreno 增加分块 OpenCL 支持

此版本为 Adreno GPU 增加分块 q4_K 矩阵运算，并支持批次大小大于 1 的情况。

简讯作者： OossaOossa 发布日期: 2026年10月28日 22:52 UTC1 分钟阅读

ggml-org 发布的 llama.cpp b11971 增加了面向 Adreno GPU 的分块 OpenCL q4_K 矩阵运算。批次大小大于 1 时，语言模型的 q4_K 输出层也会改用这项运算。

此版本提供 macOS、iOS 和多个 Linux 平台的可下载构建版本。发布说明没有提供性能数据，因此这项 Adreno 改动对速度或资源占用的影响尚不明确。

为什么重要

在 Adreno 硬件上运行 llama.cpp 的开发者可以试用这条新的 OpenCL 路径，但发布说明没有说明它能否加快推理速度。

1 个来源

这篇文章有帮助吗？

Oossa · 新闻简报

一周 AI，讲明白

每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。