Amazon ने एक संदर्भ आर्किटेक्चर की घोषणा की है, जिससे अलग-अलग आंतरिक टीमें एक ही GPU क्लस्टर साझा कर सकती हैं, जबकि उनके वर्कलोड अलग-थलग रहते हैं और लागत का हिसाब भी अलग रखा जाता है। इस व्यवस्था में Amazon EKS पर SageMaker HyperPod, अलगाव के लिए Kubernetes नेमस्पेस और संसाधनों के उचित कोटे लागू करने के लिए HyperPod Task Governance का इस्तेमाल होता है। पहचान प्रबंधन AWS IAM Identity Center के ज़रिए होता है, जो Microsoft Entra ID जैसी कंपनी की डायरेक्टरी के साथ सिंक कर सकता है। टीमें SageMaker Studio के GUI या CLI से क्लस्टर का इस्तेमाल कर सकती हैं और हर टीम अपने नेमस्पेस तक सीमित रहती है।
यह क्यों मायने रखता है
कंपनियां डेटा लीक या खर्च में अप्रत्याशित बढ़ोतरी के जोखिम के बिना, एक महंगे GPU पूल पर कई AI प्रोजेक्ट चला सकती हैं।
