开源库 llama.cpp 于 2026年11月14日发布 b12385 版本。此次更新修复了 Qwen2VL 模型的一个错误：前馈网络层的缩放因子未被应用。因此，该模型会产生毫无意义的输出，在 CUDA 上的困惑度约为 1 e6，在 CPU 上则为 NaN。此次修复将正确的缩放因子传递给构建例程，使模型恢复正常运行。
为什么重要
使用 llama.cpp 的开发者现在可以稳定运行 Qwen2VL，避免应用产生错误结果。
llama.cpp 更新修复 Qwen2VL 模型缩放错误
b12385 版本修复了导致 Qwen2VL 输出乱码的缩放错误，提升了其在 CUDA 和 CPU 上的运行表现。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。