ggml-org 团队于 2026 年 10 月 21 日发布 llama.cpp b11790。此版本为 Q4_0 量化加入 NEON 向量化重打包,并为其他类型加入多线程支持,以提升 ARM CPU 上的性能。现在可下载适用于 macOS Apple Silicon、iOS 以及多种 Linux ARM 版本的预编译二进制文件。此次更新由一名 Qualcomm 工程师共同参与开发。该版本还提供适用于 Linux x64 和 arm64 的 Vulkan 构建版本。
为什么重要
基于 ARM 的笔记本电脑和手机可以更快地运行 Llama 模型,让本地 AI 更实用。