ggml-org 团队于 2026 年 10 月 13 日发布 llama.cpp b11580 版。此次更新扩展了二元运算的标量 DMA(直接内存访问)支持,并新增了用于 repeat 和复数数据的内核。更新还精简了非 DMA 路径,并支持非连续步长。这些改动涵盖 Linux、Windows、macOS 和 Android 上的 CPU、CUDA、Vulkan 及 Hexagon NPU 构建版本。开发者现在可以在从 Apple Silicon 到 Snapdragon 芯片等设备上,更高效地进行张量计算。
为什么重要
开发者可以在更多类型的硬件上更快运行 llama.cpp 模型,从而缩短终端用户的推理时间。