Oossa

llama.cpp v0.13 扩展 DMA 支持,加快二元运算

开源库 llama.cpp 于 2026 年 10 月 13 日发布新版本,扩展了多平台二元运算的 DMA 广播支持。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml-org 团队于 2026 年 10 月 13 日发布 llama.cpp b11580 版。此次更新扩展了二元运算的标量 DMA(直接内存访问)支持,并新增了用于 repeat 和复数数据的内核。更新还精简了非 DMA 路径,并支持非连续步长。这些改动涵盖 Linux、Windows、macOS 和 Android 上的 CPU、CUDA、Vulkan 及 Hexagon NPU 构建版本。开发者现在可以在从 Apple Silicon 到 Snapdragon 芯片等设备上,更高效地进行张量计算。

为什么重要

开发者可以在更多类型的硬件上更快运行 llama.cpp 模型,从而缩短终端用户的推理时间。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。