# Prime Intellect añade soporte para entrenar con Mega MoE

> Prime Intellect afirma que sus kernels fusionados son hasta 3,11× más rápidos que una versión de referencia en PyTorch y aumentan un 34% el rendimiento del entrenamiento en sus pruebas.

Oossa · 2026-10-26 · https://oossa.com/es/prime-intellect-adds-training-support-to-mega-moe-kernels

Prime Intellect añadió a Mega MoE de DeepSeek un kernel que solapa el paso hacia atrás, lo que permite usar el sistema para entrenar modelos de mezcla de expertos. La empresa afirma que los kernels fueron hasta 3,11× más rápidos que una implementación predeterminada de PyTorch, mientras que el entrenamiento de principio a fin en Prime-RL fue hasta 1,34× más rápido que su versión de referencia.

Las pruebas de principio a fin se realizaron con GPU H200 y modelos Qwen3 en configuraciones de cuatro y 16 nodos. La compatibilidad depende del tipo de GPU: los kernels admiten bfloat16, mientras que algunos formatos FP8 están limitados a GPU Hopper o Blackwell.

## Los hechos

- Prime Intellect afirma que sus kernels de MoE son hasta 3,11× más rápidos que su implementación predeterminada de PyTorch.
- La empresa afirma que el entrenamiento de principio a fin es hasta 1,34× más rápido, lo que equivale a un 34% más de rendimiento.

## Por qué importa

Para los equipos que entrenan modelos MoE en GPU Hopper o Blackwell compatibles, los kernels podrían reducir el tiempo de entrenamiento, aunque las mejoras de velocidad comunicadas proceden de las pruebas de Prime Intellect y quizá no se reproduzcan en otras configuraciones.

## Fuentes y referencias

1. [ResearchOCT 23RD, 2026Prime Mega MoE: Fast Fused MoE Kernels for Training](https://www.primeintellect.ai/blog/prime-mega-moe) – Prime Intellect

Última actualización: 2026-10-26