Le projet ggml‑org/llama.cpp a publié une nouvelle version le 2026-10-21. Celle-ci remplace le facteur de mise à l’échelle global unique des projections descendantes des modèles à mélange d’experts (MoE) par un facteur appliqué à chaque token et à chaque expert, au moyen d’une réduction maximale POOL_1D. La modification ajoute également la prise en charge du parallélisme tensoriel en intégrant POOL_1D à la logique de répartition des états. La mise à jour comprend aussi des nettoyages de code et une refonte de la structure de retour de la mise à l’échelle.
Pourquoi c'est important
Les développeurs qui utilisent des modèles MoE peuvent désormais obtenir une mise à l’échelle plus précise pour chaque token, ce qui pourrait améliorer les performances sur les configurations multi-GPU.
