# StepFun ने Step 5 प्रीव्यू मॉडल के वेट खुले किए

> StepFun ने अपने 600 बिलियन-पैरामीटर Mixture-of-Experts मॉडल के FP8 और BF16 चेकपॉइंट जारी किए हैं। यह हर टोकन पर 27 बिलियन सक्रिय पैरामीटर इस्तेमाल करता है और 1 मिलियन टोकन तक का कॉन्टेक्स्ट संभाल सकता है।

Oossa · 2026-10-17 · https://oossa.com/hi/stepfun-opens-weights-for-step-5-preview-model

StepFun ने अपने Step 5 प्रीव्यू मॉडल के वेट खुले तौर पर उपलब्ध करा दिए हैं। FP8 और BF16 फ़ॉर्मैट वाले चेकपॉइंट Hugging Face और ModelScope पर उपलब्ध हैं। यह एक विरल Mixture-of-Experts (MoE) सिस्टम है, जिसमें कुल 600 बिलियन पैरामीटर हैं, लेकिन हर टोकन पर सिर्फ़ 27 बिलियन सक्रिय रहते हैं। यह 1 मिलियन टोकन तक का कॉन्टेक्स्ट संभाल सकता है और लंबे समय तक चलने वाले एजेंट-आधारित कार्यों के लिए बनाया गया है।

## तथ्य

- कुल 600 बिलियन पैरामीटर, हर टोकन पर 27 बिलियन सक्रिय पैरामीटर
- कॉन्टेक्स्ट विंडो 1 मिलियन टोकन तक

## यह क्यों मायने रखता है

डेवलपर अब ऐसे बेहद बड़े, खुले वेट वाले मॉडल के साथ प्रयोग कर सकते हैं, जो आम LLM की तुलना में बहुत लंबे टेक्स्ट इनपुट संभालता है।

## स्रोत और संदर्भ

1. [StepFun Releases Step 5 Preview Open Weights: 600B MoE, 27B Active, 1M Context](https://www.marktechpost.com/2026/10/16/stepfun-releases-step-5-preview-open-weights-600b-moe-27b-active-1m-context/) – MarkTechPost, 2026-10-17

अंतिम अपडेट: 2026-10-17