Oossa

llama.cpp b11827 新增 OpenCL 深度卷积支持

开源库 llama.cpp 发布 b11827 版本,加入 OpenCL 深度卷积内核,并提供适用于 macOS、iOS 和 Linux 的二进制文件。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml-org 团队发布了 llama.cpp b11827 版本。此次更新加入了 OpenCL 深度卷积(depthwise conv2d)内核,包括对 Qualcomm Adreno GPU 的支持。现已提供适用于 macOS Apple Silicon、macOS Intel、iOS 以及多个 Ubuntu 平台(CPU 和 Vulkan)的预编译二进制文件。相关改动由 OpenCode 和 Qualcomm 工程师 Li He 贡献。

为什么重要

开发者现在可以在配备 OpenCL GPU 的设备上更快地运行 llama.cpp 模型,为低功耗硬件拓展了更多选择。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。