El proyecto ggml‑org/llama.cpp publicó una nueva versión el 2026-10-21. La actualización sustituye un único factor de escala global para las proyecciones descendentes de mezcla de expertos (MoE) por un factor aplicado a cada token de cada experto, mediante una reducción máxima POOL_1D. También añade compatibilidad con el paralelismo de tensores al gestionar POOL_1D en la lógica de estado dividido. La actualización incluye limpiezas de código y una estructura de retorno de escala refactorizada.
Por qué importa
Quienes ejecutan modelos MoE pueden obtener un escalado más preciso para cada token, lo que podría mejorar el rendimiento en configuraciones con varias GPU.