# AI21 ने GPU शेड्यूलिंग को Kueue से स्वचालित किया

> AI21 Labs ने 10,000-GPU वाले GKE क्लस्टर में Slack पर GPU माँगों के समन्वय की जगह Kueue अपनाया, जिससे मैन्युअल दखल और जॉब्स को संसाधन न मिलने की समस्या घटी।

Oossa · 2026-10-04 · https://oossa.com/hi/ai21-moves-gpu-scheduling-from-manual-requests-to-kueue-automation

AI21 Labs ने Google Kubernetes Engine पर मौजूद अपने करीब 10,000 GPU के साझा पूल में मैन्युअल #gpu-resources चैनल की जगह Kueue को अपनाया। Kueue एक ओपन-सोर्स जॉब-क्यूइंग सिस्टम है, जो जॉब्स को अपने आप मंज़ूरी देता है, प्राथमिकता तय करता है और ज़रूरत पड़ने पर रोकता है। इससे अनुरोधों के समन्वय के लिए लोगों की ज़रूरत कम हुई। इस बदलाव से मैन्युअल दखल की दर घटी और अहम जॉब्स को संसाधन मिलने के इंतज़ार का समय कम हुआ। AI21 ने Kueue टीम के साथ काम किया, जिसके परिणामस्वरूप Admission Fair Sharing जैसी नई सुविधाएँ आईं।

## तथ्य

- एक GKE क्लस्टर में करीब 10,000 GPU का प्रबंधन किया जाता है।
- AI21 ने उच्च-प्राथमिकता वाले वर्कलोड को शुरू होने में लगने वाले समय में 83% की कमी दर्ज की।

## यह क्यों मायने रखता है

AI21 के शोधकर्ताओं के लिए इस स्वचालन का मतलब है कि GPU तक पहुँच के लिए मोलभाव में कम समय लगेगा और अहम ट्रेनिंग जॉब्स जल्दी शुरू होंगी।

## स्रोत और संदर्भ

1. [From manual negotiation to automated scheduling: How AI21 manages its GPU fleet with Kueue Google Cloud recently published our story on AI Hypercomputer, including an 83% reduction in time-to-start fo](https://www.ai21.com/blog/how-ai21-manages-its-gpu-fleet-with-kueue/) – AI21 Labs

अंतिम अपडेट: 2026-10-04
