StepFun ha puesto a disposición como pesos abiertos su modelo Step 5 en versión preliminar. Los checkpoints, en formatos FP8 y BF16, están publicados en Hugging Face y ModelScope. El modelo es un sistema disperso Mixture-of-Experts (MoE) con 600.000 millones de parámetros en total, de los cuales solo activa 27.000 millones por token. Puede manejar contextos de hasta 1 millón de tokens y está pensado para tareas agénticas de largo plazo.
Por qué importa
Ahora los desarrolladores pueden probar un modelo de pesos abiertos de gran tamaño que admite entradas de texto mucho más largas que las de los LLM habituales.
