Oossa

StepFun apre i pesi del modello di anteprima Step 5

StepFun ha pubblicato i checkpoint FP8 e BF16 del suo modello Mixture-of-Experts da 600 miliardi di parametri, con 27 miliardi di parametri attivi per token e un contesto fino a 1 milione di token.

BreveDi Pubblicato da Oossa: 1 min di lettura

StepFun ha reso disponibili come pesi aperti i checkpoint del modello di anteprima Step 5, nei formati FP8 e BF16, su Hugging Face e ModelScope. Il modello è un sistema sparso Mixture-of-Experts (MoE) con 600 miliardi di parametri totali, di cui solo 27 miliardi attivi per token. Può gestire contesti fino a 1 milione di token ed è pensato per attività agentiche a lungo orizzonte.

Perché conta

Gli sviluppatori possono ora sperimentare un modello a pesi aperti di dimensioni molto grandi, che supporta input testuali molto più lunghi rispetto agli LLM tipici.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.