# AI21 automatiseert GPU-planning met Kueue

> AI21 Labs verving handmatige onderhandelingen over GPU’s door Kueue. Dat leidde tot minder handmatige ingrepen en minder stilgevallen jobs op een GKE-cluster met 10.000 GPU’s.

Oossa · 2026-10-04 · https://oossa.com/nl/ai21-moves-gpu-scheduling-from-manual-requests-to-kueue-automation

AI21 Labs stapte voor zijn gedeelde pool van ongeveer 10.000 GPU’s op Google Kubernetes Engine over van een handmatig #gpu-resources-kanaal naar Kueue, een open-source wachtrijsysteem voor jobs. Kueue laat jobs automatisch toe, geeft ze prioriteit en kan ze onderbreken, waardoor medewerkers minder vaak aanvragen hoeven af te stemmen. Door de verandering waren minder handmatige ingrepen nodig en stonden kritieke jobs korter zonder resources. AI21 werkte samen met het Kueue-team; dat leidde tot nieuwe functies, zoals Admission Fair Sharing.

## De feiten

- Ongeveer 10.000 GPU’s worden beheerd in één GKE-cluster.
- AI21 zag de tijd tot de start van workloads met hoge prioriteit met 83% afnemen.

## Waarom het ertoe doet

Voor AI-onderzoekers bij AI21 betekent de automatisering dat ze minder tijd kwijt zijn aan onderhandelen over GPU-toegang en belangrijke trainingsjobs sneller kunnen starten.

## Bronnen en referenties

1. [From manual negotiation to automated scheduling: How AI21 manages its GPU fleet with Kueue Google Cloud recently published our story on AI Hypercomputer, including an 83% reduction in time-to-start fo](https://www.ai21.com/blog/how-ai21-manages-its-gpu-fleet-with-kueue/) – AI21 Labs

Laatst bijgewerkt: 2026-10-04