StepFun har gjort förhandsversionen av Step 5 tillgänglig med öppna vikter. Checkpointsen, i formaten FP8 och BF16, finns på Hugging Face och ModelScope. Modellen är ett glest Mixture-of-Experts-system (MoE) med totalt 600 miljarder parametrar, men bara 27 miljarder aktiva per token. Den klarar kontext på upp till 1 miljon token och är avsedd för agentuppgifter med lång tidshorisont.
Varför det spelar roll
Utvecklare kan nu experimentera med en mycket stor modell med öppna vikter, som stöder betydligt längre textinmatningar än typiska LLM:er.
