Microsoft ने घोषणा की कि उसका Azure Maia परिवार 2027 से कई गीगावॉट की तैनाती तक पहुंचेगा। नया Maia 300 एक्सेलरेटर लंबे कॉन्टेक्स्ट और भारी डिकोडिंग वाले इन्फरेंस कार्यों के लिए बनाया गया है, न कि मॉडल ट्रेनिंग के लिए। Microsoft का कहना है कि Maia 300 प्रमुख GPU-आधारित सिस्टमों के मुकाबले प्रति मेगावॉट 40% अधिक टोकन देगा और अपने पूर्ववर्ती Maia 200 की तुलना में रैक-स्तर पर टोकन थ्रूपुट सात गुना तक बढ़ाएगा।
Maia 300 की खासियतें
हर Maia 300 एक्सेलरेटर में HBM4 मेमोरी के आठ स्टैक हैं, जो 950-वॉट की बिजली सीमा के भीतर 288 GB तेज़ मेमोरी और 18 TB/s बैंडविड्थ देते हैं। एक रैक में 24 ट्रे में कुल 96 एक्सेलरेटर होते हैं। यह 167 kW बिजली खर्च करता है और 27.6 TB HBM तथा कुल 1.7 PB/s बैंडविड्थ देता है। चिप TSMC की N2P प्रक्रिया से बने हैं और इनमें NUMA मेमोरी लेआउट है, ताकि सॉफ्टवेयर डेटा को कंप्यूट कोर के पास रख सके।
सिस्टम की नेटवर्किंग Ethernet पर चलने वाले कस्टम AI ट्रांसपोर्ट का इस्तेमाल करती है। रैक-स्तर के “सुपरपॉड” में एक्सेलरेटर, होस्ट CPU या अलग NIC की मदद के बिना सीधे किसी भी दूसरे एक्सेलरेटर से बात कर सकते हैं। अधिकतम 128 रैक को जोड़कर 12,288 एक्सेलरेटर वाला सुपरपॉड बनाया जा सकता है। Microsoft का कहना है कि इस नेटवर्क के कारण खराब हुई ट्रे की जगह अतिरिक्त ट्रे को बिना किसी रुकावट के लगाया जा सकता है।
दक्षता के दावे पर प्रतिक्रिया
मुख्य माप—प्रति वॉट टोकन—को कुछ टिप्पणीकारों ने “बेतुका” कहा है। उनका कहना है कि टोकन की परिभाषाएं अलग-अलग हो सकती हैं और यह माप लेटेंसी या प्रति टोकन लागत जैसे पहलुओं को नज़रअंदाज़ करता है। आलोचकों ने यह भी पूछा है कि 40% सुधार के दावे के लिए कितनी लंबाई वाले कॉन्टेक्स्ट का इस्तेमाल किया गया, और कहा है कि लंबे कॉन्टेक्स्ट वाले वर्कलोड अक्सर कंप्यूट के बजाय मेमोरी की सीमाओं से प्रभावित होते हैं।
यह क्यों मायने रखता है
Microsoft की अपनी सेवाओं के ग्राहकों को नए हार्डवेयर से तेज़ जवाब और कम ऊर्जा लागत मिल सकती है—अगर दक्षता का दावा सही साबित होता है। हालांकि, Microsoft ने यह नहीं बताया है कि बाहरी ग्राहक Maia की क्षमता किराये पर ले सकेंगे या नहीं। इसलिए फिलहाल इसका लाभ Microsoft के अपने उत्पादों तक सीमित रह सकता है।
