Oossa

AI21 زمان‌بندی GPUها را با Kueue خودکار کرد

AI21 Labs مذاکره‌های دستی در کانال‌های شبیه Slack برای دسترسی به GPU را با Kueue جایگزین کرد؛ تغییری که مداخله‌های دستی و معطل‌ماندن کارها را در خوشه‌ای با 10,000 GPU روی GKE کاهش داد.

خبر کوتاهOossaمنتشرشده توسط Oossa: 1 دقیقه مطالعه

AI21 Labs استخر مشترک حدود 10,000 GPU خود را در Google Kubernetes Engine از کانال دستی #gpu-resources به Kueue منتقل کرد؛ سامانه‌ای متن‌باز برای صف‌بندی کارها. Kueue کارها را به‌طور خودکار می‌پذیرد، اولویت‌بندی می‌کند و در صورت نیاز متوقف می‌کند تا منابع آزاد شوند و نیاز به هماهنگی درخواست‌ها از سوی افراد کاهش یابد. این تغییر، میزان مداخله دستی و مدت‌زمانی را که کارهای مهم بدون دسترسی به منابع می‌ماندند، کاهش داد. AI21 با تیم Kueue همکاری کرد و در پی این همکاری، قابلیت‌های تازه‌ای مانند Admission Fair Sharing به این سامانه اضافه شد.

چرا مهم است

برای پژوهشگران هوش مصنوعی در AI21، خودکارسازی یعنی زمان کمتری صرف مذاکره برای دسترسی به GPU و کارهای آموزشی مهم سریع‌تر آغاز می‌شوند.

منابع و ارجاع‌ها

1 منبع
  1. AI21 Labsخواندن منبع اصلی

آخرین به‌روزرسانی: ·Markdown

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.