ggml-org 团队发布了 llama.cpp b12031，初步加入对 IQ3 的 OpenCL 支持。IQ3 是两种紧凑的模型权重格式。此次更新为 IQ3_S 和 IQ3_XXS 添加了矩阵与向量运算，还为 Qualcomm GPU 加入了 Adreno 专用路径。
发布说明还介绍了针对 Adreno 的解码优化，以及对更窄批次的支持。不过，说明中没有提供速度对比，因此实际性能变化尚不明确。
为什么重要
在 Adreno GPU 上运行 llama.cpp 的开发者可以尝试这些面向 IQ3 模型的 OpenCL 路径，但发布说明并未证实其运行速度是否更快，也未说明哪些设备受益最大。
