AI21 Labs استخر مشترک حدود 10,000 GPU خود را در Google Kubernetes Engine از کانال دستی #gpu-resources به Kueue منتقل کرد؛ سامانهای متنباز برای صفبندی کارها. Kueue کارها را بهطور خودکار میپذیرد، اولویتبندی میکند و در صورت نیاز متوقف میکند تا منابع آزاد شوند و نیاز به هماهنگی درخواستها از سوی افراد کاهش یابد. این تغییر، میزان مداخله دستی و مدتزمانی را که کارهای مهم بدون دسترسی به منابع میماندند، کاهش داد. AI21 با تیم Kueue همکاری کرد و در پی این همکاری، قابلیتهای تازهای مانند Admission Fair Sharing به این سامانه اضافه شد.
چرا مهم است
برای پژوهشگران هوش مصنوعی در AI21، خودکارسازی یعنی زمان کمتری صرف مذاکره برای دسترسی به GPU و کارهای آموزشی مهم سریعتر آغاز میشوند.