Oossa

llama.cpp b11790 为 ARM 设备加入 NEON 向量化重打包

开源 Llama.cpp 库于 2026 年 10 月 21 日发布 b11790,新增面向 ARM CPU 的 NEON 向量化和多线程重打包支持。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml-org 团队于 2026 年 10 月 21 日发布 llama.cpp b11790。此版本为 Q4_0 量化加入 NEON 向量化重打包,并为其他类型加入多线程支持,以提升 ARM CPU 上的性能。现在可下载适用于 macOS Apple Silicon、iOS 以及多种 Linux ARM 版本的预编译二进制文件。此次更新由一名 Qualcomm 工程师共同参与开发。该版本还提供适用于 Linux x64 和 arm64 的 Vulkan 构建版本。

为什么重要

基于 ARM 的笔记本电脑和手机可以更快地运行 Llama 模型,让本地 AI 更实用。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。