ggml‑org 团队于 2026-10-16 发布 llama.cpp b11688。此次更新仅针对 CPU,减少了 AVX2 分块累加器;项目方表示,这项调整可加快推理速度。新版提供适用于多种硬件的预编译二进制文件,支持 macOS、iOS、Linux、Vulkan 和 CUDA。该改动标注为由 OpenAI 的代码生成模型 Codex 辅助完成。
为什么重要
开发者无需重新编译代码,就能在支持 AVX2 的 CPU 上更快地运行 llama.cpp 模型。
开源 llama.cpp 库发布了新版二进制文件,通过减少 AVX2 分块累加器提升 CPU 性能。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
ggml‑org 团队于 2026-10-16 发布 llama.cpp b11688。此次更新仅针对 CPU,减少了 AVX2 分块累加器;项目方表示,这项调整可加快推理速度。新版提供适用于多种硬件的预编译二进制文件,支持 macOS、iOS、Linux、Vulkan 和 CUDA。该改动标注为由 OpenAI 的代码生成模型 Codex 辅助完成。
开发者无需重新编译代码,就能在支持 AVX2 的 CPU 上更快地运行 llama.cpp 模型。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。