# llama.cpp 更新修复 Qwen2VL 模型缩放错误

> b12385 版本修复了导致 Qwen2VL 输出乱码的缩放错误，提升了其在 CUDA 和 CPU 上的运行表现。

Oossa · 2026-11-14 · https://oossa.com/zh/llama-cpp-update-fixes-qwen2vl-model-scaling-bug

开源库 llama.cpp 于 2026年11月14日发布 b12385 版本。此次更新修复了 Qwen2VL 模型的一个错误：前馈网络层的缩放因子未被应用。因此，该模型会产生毫无意义的输出，在 CUDA 上的困惑度约为 1 e6，在 CPU 上则为 NaN。此次修复将正确的缩放因子传递给构建例程，使模型恢复正常运行。

## 事实

- b12385 版本于 2026-11-14 发布
- 该错误导致 Qwen2VL 在 CUDA 上的困惑度约为 1e6，在 CPU 上为 NaN

## 为什么重要

使用 llama.cpp 的开发者现在可以稳定运行 Qwen2VL，避免应用产生错误结果。

## 来源与参考

1. [ggml-org/llama.cpp b12385](https://github.com/ggml-org/llama.cpp/releases/tag/b12385) – llama.cpp, 2026-11-14

最后更新: 2026-11-14
