Tom’s Hardware की रिपोर्ट के मुताबिक, Google के डेवलपर ब्लॉग की घोषणा में कहा गया है कि Google की कस्टम AI चिपें—जिन्हें tensor processing units (TPUs) कहा जाता है—अब Meta में प्रोडक्शन के दौरान AI वर्कलोड चला रही हैं। इस व्यवस्था में SGLang का PyTorch के लिए बना संस्करण इस्तेमाल हो रहा है। यह AI मॉडल चलाने और जवाब तैयार करने वाला सॉफ्टवेयर है। Google ने एक और व्यापक रूप से इस्तेमाल होने वाले इन्फरेंस इंजन vLLM का भी PyTorch के लिए बना संस्करण घोषित किया।
इस बदलाव से Meta को Google की चिपें PyTorch के साथ इस्तेमाल करने का विकल्प मिलता है। PyTorch वह AI फ्रेमवर्क है जिसे Meta ने बनाया है। पहले इसके लिए Google के JAX फ्रेमवर्क पर निर्भर रहना पड़ता था। Google का कहना है कि नए संस्करणों की मदद से डेवलपर अपने सॉफ्टवेयर को दोबारा लिखे बिना, ज्यादातर मामलों में TPUs का इस्तेमाल कर सकेंगे। लेख की हेडलाइन में यह भी कहा गया है कि Google ने पहली बार बाहरी ग्राहकों को TPUs बेचे हैं, लेकिन दी गई रिपोर्ट में उन ग्राहकों की पहचान या बिक्री का विवरण नहीं है।
JAX से आगे का रास्ता
सॉफ्टवेयर का यह तालमेल इसलिए अहम है क्योंकि डेवलपर के टूल किसी चिप का इस्तेमाल कर सकें, तभी वह उनके लिए उपयोगी होती है। पहले SGLang और vLLM, JAX के ज़रिए Google TPUs पर चलते थे। PyTorch के लिए बने नए संस्करणों से पहले से PyTorch इस्तेमाल कर रही टीमों के लिए ये चिपें एक विकल्प बनती हैं। इससे AI वर्कलोड को TPU हार्डवेयर पर ले जाने में लगने वाली मेहनत कम हो सकती है।
Google का कहना है कि vLLM का संस्करण ओपन सोर्स है। रिपोर्ट यह नहीं बताती कि SGLang संस्करण के लाइसेंस या उस तक पहुंच की शर्तें भी ऐसी ही हैं या नहीं, और न ही यह समझाती है कि डेवलपर इनमें से किसी संस्करण को कैसे हासिल कर सकते हैं। इसमें यह भी नहीं बताया गया कि Meta कितने TPUs इस्तेमाल कर रहा है, उन पर कौन से मॉडल चल रहे हैं या यह व्यवस्था कैसा प्रदर्शन करती है।
उपयोगकर्ताओं के लिए क्या बदलेगा?
Meta के लिए पक्की तौर पर इतना बदलाव हुआ है कि अब उसके डेटा सेंटर में AI वर्कलोड चलाने का एक और तरीका उपलब्ध है। इससे उसके इंजीनियरों के पास हार्डवेयर के ज्यादा विकल्प हो सकते हैं, लेकिन रिपोर्ट में ऐसा कोई प्रमाण नहीं है कि Meta के उत्पादों की गति, गुणवत्ता या उपयोगकर्ताओं के लिए उपलब्धता में बदलाव हुआ है। यह भी नहीं बताया गया कि Meta की तैनाती सिर्फ एक परीक्षण है या घोषणा में इसे प्रोडक्शन में बताए जाने से आगे इसका व्यापक इस्तेमाल हो रहा है।
यह क्यों मायने रखता है
Meta के AI इंजीनियर अब SGLang और vLLM के PyTorch-आधारित संस्करणों के साथ Google TPUs इस्तेमाल कर सकते हैं, यानी इन इंजनों के लिए उन्हें JAX पर निर्भर नहीं रहना होगा। इससे Meta के लिए हार्डवेयर का एक और विकल्प जुड़ता है, लेकिन स्रोत से यह पता नहीं चलता कि Meta के उत्पाद इस्तेमाल करने वालों को गति या सुविधाओं में कोई फर्क महसूस होगा या नहीं।
