Oossa

llama.cpp b11804 新增 OpenCL argmax 支持

这款开源大语言模型运行时新增 OpenCL 的 F32 转 I32 argmax,并发布适用于 macOS、Linux 和 iOS 的新二进制文件。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml‑org 于 2026‑10‑22 发布 llama.cpp b11804。此次更新加入一项 OpenCL 运算,可将 32 位浮点数的 argmax 结果转换为 32 位整数,从而提升 GPU 推理速度。此外,更新还提供了适用于 Apple Silicon、Intel macOS、iOS 以及多个 Ubuntu 版本(CPU、Vulkan、CUDA)的新版预编译二进制文件。相关改动由 OpenCode 和 Qualcomm 的 Li He 编写。

为什么重要

开发者现在可以在兼容 OpenCL 的 GPU 上更快地运行 llama.cpp 模型,为业余 AI 项目提供更多硬件选择。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。