Oossa

TorchNeuron से AWS Trainium पर चलेगा PyTorch

PyTorch ने TorchNeuron जारी किया है। यह ओपन-सोर्स बैकएंड बिना कोड बदले मॉडल को Trainium चिप पर चलाने की सुविधा देता है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: अंतिम अपडेट: 1 मिनट पढ़ना

PyTorch ने TorchNeuron की घोषणा की है। यह नेटिव बैकएंड AWS Trainium को PyTorch के एक सामान्य डिवाइस की तरह उपलब्ध कराता है। इस नई लाइब्रेरी की मदद से डेवलपर केवल .to('neuron') लिखकर मॉडल को Trainium पर चला सकते हैं और प्रोडक्शन-स्तर की गति के लिए torch.compile का इस्तेमाल कर सकते हैं। यह eager execution, adaptive eager mode और Neuron Kernel Interface के ज़रिए custom kernels को सपोर्ट करता है। इसका कोड Apache 2.0 लाइसेंस के तहत ओपन-सोर्स होगा और सार्वजनिक बीटा Oct. 20 से शुरू होगा।

यह क्यों मायने रखता है

शोधकर्ता अपने वर्कफ़्लो को दोबारा लिखे बिना, उसी PyTorch कोड से Trainium की गति का लाभ उठा सकते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।