# llama.cpp inför tokenvis skalning per expert för MoE-modeller

> Biblioteket llama.cpp med öppen källkod skalar nu MoE-nedprojektioner per token, vilket förbättrar stödet för tensorparallellism.

Oossa · 2026-10-21 · https://oossa.com/sv/llama-cpp-adds-per-expert-token-scaling-for-moe-models

Projektet ggml‑org/llama.cpp släppte en ny version den 2026-10-21. Den ersätter en gemensam global skalningsfaktor för MoE-nedprojektioner med en faktor per expert och token, med hjälp av en maxreduktion av typen POOL_1D. Ändringen lägger också till stöd för tensorparallellism genom att hantera POOL_1D i logiken för delat tillstånd. Uppdateringen innehåller även kodstädning och en omarbetad struktur för skalningsreturvärden.

## Fakta

- Releasedatum: 2026-10-21 ("Wed Oct 21 2026 08:33:35 GMT+0200")
- Ändring: skalning per expert och token för MoE-nedprojektioner

## Varför det spelar roll

Utvecklare som kör MoE-modeller kan nu få mer exakt skalning för varje token, vilket kan förbättra prestandan i konfigurationer med flera GPU:er.

## Källor och referenser

1. [ggml-org/llama.cpp b11785](https://github.com/ggml-org/llama.cpp/releases/tag/b11785) – llama.cpp, 2026-10-21

Senast uppdaterad: 2026-10-21