Oossa

llama.cpp b12124 增加 OpenCL 非连续 sigmoid 运算支持

新版 llama.cpp 支持在 OpenCL 上处理非连续数据的 sigmoid 运算,并提供适用于多种操作系统和处理器的下载版本。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml-org 团队发布了 llama.cpp b12124,此版本更新了 OpenCL 支持:现在可以处理非连续数据上的 sigmoid 运算。OpenCL 是一种可在不同处理器上运行计算任务的框架。

发布页面还列出了 macOS、iOS 和 Ubuntu 的预编译下载版本,包括 CPU 和 Vulkan 版本。页面没有提及更广泛的性能变化,也未说明哪些用户会感受到差异。

为什么重要

使用 OpenCL 运行 llama.cpp 的开发者现在可以使用这项新支持的运算,但发布说明并未证明它会提升速度或影响日常用户。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。