Amazon, farklı ekiplerin aynı GPU kümesini iş yüklerini birbirinden yalıtılmış ve maliyetlerini ayrı tutarak paylaşmasını sağlayan bir referans mimari duyurdu. Kurulumda Amazon EKS üzerinde SageMaker HyperPod, yalıtım için Kubernetes ad alanları ve kaynak kotalarını adil biçimde uygulamak için HyperPod Task Governance kullanılıyor. Kimlik yönetimi, Microsoft Entra ID gibi kurumsal dizinlerle senkronize olabilen AWS IAM Identity Center üzerinden sağlanıyor. Ekipler kümeye SageMaker Studio’nun grafik arayüzü veya komut satırı arayüzü (CLI) üzerinden erişebiliyor; her ekip kendi ad alanıyla sınırlı kalıyor.
Neden önemli
Şirketler, veri sızıntısı veya öngörülemeyen harcama riski olmadan birden fazla yapay zekâ projesini maliyetli tek bir GPU havuzunda çalıştırabilir.
