# llama.cpp 为 MoE 模型新增逐专家、逐 token 缩放

> 开源库 llama.cpp 现在可对 MoE 下投影按 token 进行缩放，并改进了对张量并行的支持。

Oossa · 2026-10-21 · https://oossa.com/zh/llama-cpp-adds-per-expert-token-scaling-for-moe-models

ggml‑org/llama.cpp 项目于 2026-10-21 发布了新版本。该版本将混合专家（MoE）下投影原先统一使用的全局缩放因子，改为逐专家、逐 token 的缩放因子，并采用 POOL_1D 最大值归约。此次更新还通过在分片状态逻辑中处理 POOL_1D，加入了对张量并行的支持。此外，更新还包括代码清理，并重构了缩放结果的返回结构。

## 事实

- 发布日期：2026-10-21（“Wed Oct 21 2026 08:33:35 GMT+0200”）
- 变更：MoE 下投影改为逐专家、逐 token 缩放

## 为什么重要

运行 MoE 模型的开发者现在可以对每个 token 获得更准确的缩放，这可能有助于提升多 GPU 配置下的性能。

## 来源与参考

1. [ggml-org/llama.cpp b11785](https://github.com/ggml-org/llama.cpp/releases/tag/b11785) – llama.cpp, 2026-10-21

最后更新: 2026-10-21