Hugging Face ने TorchTPU की घोषणा की है। यह PyTorch का नेटिव बैकएंड है, जो TPU को किसी भी दूसरे डिवाइस की तरह इस्तेमाल करने देता है। इसे एक pip कमांड से इंस्टॉल करें और device_map="tpu" सेट करके Transformers या Diffusers मॉडल TPU पर लोड करें। पैकेज में TPU के लिए खास तौर पर बनाए गए Pallas kernels, डिस्ट्रीब्यूटेड ट्रेनिंग सपोर्ट और अतिरिक्त गति के लिए torch.compile इंटीग्रेशन शामिल हैं। अब TPU पर Hugging Face मॉडल चलाने के लिए Optimum TPU की जरूरत नहीं है।
यह क्यों मायने रखता है
अब PyTorch डेवलपर अतिरिक्त फ्रेमवर्क के बिना Google Cloud TPU का इस्तेमाल कर सकते हैं, जिससे बड़े पैमाने पर ट्रेनिंग और इन्फ़रेंस आसान हो जाएगा।
