# Prime Intellect lägger till träningsstöd för Mega MoE-kärnor

> Prime Intellect uppger att företagets fuserade kärnor är upp till 3.11× snabbare än en PyTorch-baslinje och ökar träningstakten med 34% i företagets tester.

Oossa · 2026-10-26 · https://oossa.com/sv/prime-intellect-adds-training-support-to-mega-moe-kernels

Prime Intellect har lagt till en kärna för överlappande bakåtpass i DeepSeeks Mega MoE-system, vilket gör det möjligt att använda systemet för att träna mixture-of-experts-modeller. Företaget uppger att kärnorna var upp till 3.11× snabbare än en standardimplementation i PyTorch, medan träning från början till slut i Prime-RL gick upp till 1.34× snabbare än företagets baslinje.

Testerna av träning från början till slut genomfördes med H200-GPU:er och Qwen3-modeller i konfigurationer med fyra respektive 16 noder. Stödet beror på GPU-typ: kärnorna stöder bfloat16, medan vissa FP8-format endast fungerar på Hopper- eller Blackwell-GPU:er.

## Fakta

- Prime Intellect rapporterar att MoE-kärnorna är upp till 3.11× snabbare än företagets standardimplementation i PyTorch.
- Företaget rapporterar upp till 1.34× snabbare träning från början till slut, vilket motsvarar 34% högre genomströmning.

## Varför det spelar roll

För team som tränar MoE-modeller på GPU:er med stöd för Hopper eller Blackwell kan kärnorna korta träningstiden. De redovisade hastighetsökningarna bygger dock på Prime Intellects egna tester och behöver inte gälla för andra konfigurationer.

## Källor och referenser

1. [ResearchOCT 23RD, 2026Prime Mega MoE: Fast Fused MoE Kernels for Training](https://www.primeintellect.ai/blog/prime-mega-moe) – Prime Intellect

Senast uppdaterad: 2026-10-26