ggml-org 团队于 2026 年 10 月 17 日发布 llama.cpp b11713。此次更新采用更快的 MMVQ 算法，提升低比特类型在 CUDA 上的性能；同时修复了 AMD HIP GPU 在 Q3_K 和 Q6_K 量化下的一个小问题。现已提供适用于 macOS、iOS 和多个 Ubuntu 目标平台（CPU、Vulkan、CUDA）的预构建二进制文件，可供下载。
为什么重要
开发者可以在 NVIDIA GPU 上更快地运行量化 LLM，从而降低本地 AI 应用的推理成本。
llama.cpp b11713 发布：CUDA 低比特运算提速
开源库 llama.cpp 于 2026 年 10 月 17 日发布 b11713，提升 CUDA GPU 上低比特矩阵向量运算速度，并新增二进制构建版本。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。