AI21 Labs ने Google Kubernetes Engine पर मौजूद अपने करीब 10,000 GPU के साझा पूल में मैन्युअल #gpu-resources चैनल की जगह Kueue को अपनाया। Kueue एक ओपन-सोर्स जॉब-क्यूइंग सिस्टम है, जो जॉब्स को अपने आप मंज़ूरी देता है, प्राथमिकता तय करता है और ज़रूरत पड़ने पर रोकता है। इससे अनुरोधों के समन्वय के लिए लोगों की ज़रूरत कम हुई। इस बदलाव से मैन्युअल दखल की दर घटी और अहम जॉब्स को संसाधन मिलने के इंतज़ार का समय कम हुआ। AI21 ने Kueue टीम के साथ काम किया, जिसके परिणामस्वरूप Admission Fair Sharing जैसी नई सुविधाएँ आईं।
यह क्यों मायने रखता है
AI21 के शोधकर्ताओं के लिए इस स्वचालन का मतलब है कि GPU तक पहुँच के लिए मोलभाव में कम समय लगेगा और अहम ट्रेनिंग जॉब्स जल्दी शुरू होंगी।
