DeepSeek AI ने DeepGEMM-Ascend नाम से नया GitHub रिपॉज़िटरी शुरू किया है। यह DeepGEMM मैट्रिक्स-मल्टिप्लाई लाइब्रेरी को Huawei के Ascend NPU पर उपलब्ध कराता है। यह पैकेज मूल DeepGEMM वाला ही API इस्तेमाल करता है, इसलिए NVIDIA GPU पर चलने वाले कोड को केवल pip install करके Ascend पर चलाया जा सकता है। यह BF16, FP8, FP4 GEMM, MQA logits और MegaMoE kernels को सपोर्ट करता है। कंपनी का दावा है कि Ascend 950 डिवाइस पर यह हार्डवेयर की अधिकतम क्षमता का 99.8% तक प्रदर्शन हासिल कर सकता है।
यह क्यों मायने रखता है
इससे डेवलपर Huawei के AI चिप्स पर मौजूदा DeepGEMM कोड का दोबारा इस्तेमाल कर सकते हैं। बड़े भाषा मॉडल की ट्रेनिंग और इन्फरेंस के लिए हार्डवेयर के विकल्प बढ़ेंगे।