# llama.cpp escala cada token por experto en modelos MoE

> La biblioteca de código abierto llama.cpp ahora escala las proyecciones descendentes de MoE para cada token y mejora la compatibilidad con el paralelismo de tensores.

Oossa · 2026-10-21 · https://oossa.com/es/llama-cpp-adds-per-expert-token-scaling-for-moe-models

El proyecto ggml‑org/llama.cpp publicó una nueva versión el 2026-10-21. La actualización sustituye un único factor de escala global para las proyecciones descendentes de mezcla de expertos (MoE) por un factor aplicado a cada token de cada experto, mediante una reducción máxima POOL_1D. También añade compatibilidad con el paralelismo de tensores al gestionar POOL_1D en la lógica de estado dividido. La actualización incluye limpiezas de código y una estructura de retorno de escala refactorizada.

## Los hechos

- Fecha de lanzamiento: 2026-10-21 ("Wed Oct 21 2026 08:33:35 GMT+0200")
- Cambio: escalado por token y experto para la proyección descendente de MoE

## Por qué importa

Quienes ejecutan modelos MoE pueden obtener un escalado más preciso para cada token, lo que podría mejorar el rendimiento en configuraciones con varias GPU.

## Fuentes y referencias

1. [ggml-org/llama.cpp b11785](https://github.com/ggml-org/llama.cpp/releases/tag/b11785) – llama.cpp, 2026-10-21

Última actualización: 2026-10-21