Oossa

llama.cpp b12532 增加 OpenCL KV 填充调整并发布新版二进制文件

这款开源大语言模型运行时更新了 OpenCL 支持,并为 macOS、iOS 和多个 Linux 平台推出新版构建。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml-org 于 2026-11-19 发布 llama.cpp b12532。此次更新允许 OpenCL 用户调整分解式 Flash Attention 算法中的键值(KV)填充。此外,还提供适用于 Apple Silicon、Intel Mac、iOS 以及多种 Linux 架构的预编译二进制文件,包括 Ubuntu x64、arm64、s390x 和 Vulkan 构建。

为什么重要

开发者现在可以针对 OpenCL GPU 微调内存布局,有望提升受支持硬件上的性能。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。