OossaAI तेज़ी से विकसित हो रहा है। हम इसे आसान भाषा में समझाते हैं।

DeepSeek ने Huawei NPU के लिए DeepEP-Ascend लाइब्रेरी जारी की

DeepSeek ने हाई-परफॉर्मेंस कम्युनिकेशन लाइब्रेरी को ओपन-सोर्स किया है, जो Ascend NPU पर MoE ट्रेनिंग को तेज़ करती है। शुरुआती बेंचमार्क में बैंडविड्थ का 95% तक इस्तेमाल दिखा है।

संक्षिप्तOossa1 मिनट पढ़ना

DeepSeek ने GitHub पर DeepEP-Ascend नाम का नया रिपॉज़िटरी प्रकाशित किया है। यह Huawei Ascend NPU पर ट्रेनिंग और इन्फ़रेंस के लिए कम्युनिकेशन लाइब्रेरी उपलब्ध कराता है। इसमें एक्सपर्ट-पैरेलल ऑल-टू-ऑल, पाइपलाइन पैरेललिज़्म और रिमोट मेमोरी एक्सेस का समर्थन है। यह लाइब्रेरी NVIDIA DeepEP API के अनुरूप है और इसे pip कमांड से इंस्टॉल किया जा सकता है। Ascend 950DT पर शुरुआती परीक्षणों में, एक्सपर्ट-पैरेलल साइज़ 32 तक होने पर डिस्पैच बैंडविड्थ हार्डवेयर की सीमा के करीब रही।

यह क्यों मायने रखता है

इससे डेवलपर Huawei के Ascend चिप्स पर बड़े पैमाने के मिक्सचर-ऑफ़-एक्सपर्ट्स मॉडल को हार्डवेयर की संचार गति के करीब चलाने में सक्षम होंगे।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।

स्रोत और संदर्भ

#स्रोतप्रकाशकतारीखमुख्य बात
1New repository deepseek-ai/DeepEP-Ascend: A high-performance communication library for machine learning training and inference on Huawei Ascend NPUs. ↗DeepSeek30 सित॰ 2026A high-performance communication library for machine learning training and inference on Huawei Ascend NPUs.

1 स्रोत

अंतिम अपडेट: ·Markdown·llms.txt