# Prime Intellect aggiunge il supporto al training per i kernel Mega MoE

> Secondo Prime Intellect, i suoi kernel fusi sono fino a 3,11× più veloci di una versione di riferimento in PyTorch e aumentano del 34% il throughput del training nei test dell’azienda.

Oossa · 2026-10-26 · https://oossa.com/it/prime-intellect-adds-training-support-to-mega-moe-kernels

Prime Intellect ha aggiunto a Mega MoE di DeepSeek un kernel per sovrapporre la fase di backward, rendendo il sistema utilizzabile per addestrare modelli mixture-of-experts. L’azienda afferma che i kernel sono risultati fino a 3,11× più veloci rispetto a un’implementazione PyTorch predefinita, mentre il training end-to-end in Prime-RL è stato fino a 1,34× più veloce rispetto alla versione di riferimento.

I test end-to-end sono stati eseguiti su GPU H200 e modelli Qwen3 in configurazioni da quattro e 16 nodi. Il supporto varia in base al tipo di GPU: i kernel funzionano con bfloat16, mentre alcuni formati FP8 sono limitati alle GPU Hopper o Blackwell.

## I fatti

- Prime Intellect dichiara che i suoi kernel MoE sono fino a 3,11× più veloci rispetto all’implementazione PyTorch predefinita.
- L’azienda dichiara un training end-to-end fino a 1,34× più veloce, equivalente a un throughput superiore del 34%.

## Perché conta

Per i team che addestrano modelli MoE su GPU Hopper o Blackwell supportate, questi kernel potrebbero ridurre i tempi di training. I risultati riportati, però, provengono dai test di Prime Intellect e potrebbero non essere replicabili in altre configurazioni.

## Fonti e riferimenti

1. [ResearchOCT 23RD, 2026Prime Mega MoE: Fast Fused MoE Kernels for Training](https://www.primeintellect.ai/blog/prime-mega-moe) – Prime Intellect

Ultimo aggiornamento: 2026-10-26
