llama.cpp项目于2026-10-02发布了一项小型CUDA更新，让Volta显卡（sm_70）使用与Turing显卡相同的MMVQ调优表。在Tesla V100 32 GB上，这项调整使Qwen3.8‑27B模型的吞吐量提升约3%。以困惑度衡量的输出质量保持不变。该补丁由anyei及其合作者提交。
为什么重要
在V100显卡上运行llama.cpp的用户可以略微加快模型运行速度，同时不损失准确性。
llama.cpp为Volta显卡加入CUDA优化，V100提速
一项仅改动两行的调整让Volta（sm_70）采用Turing的MMVQ调优表，使Tesla V100速度提升约3%，且结果保持不变。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。