# AI21 automatiserar GPU-schemaläggningen med Kueue

> AI21 Labs ersatte manuella förhandlingar om GPU-resurser med Kueue. Det minskade behovet av manuella insatser och risken för att jobb blir utan resurser i ett GKE-kluster med 10 000 GPU:er.

Oossa · 2026-10-04 · https://oossa.com/sv/ai21-moves-gpu-scheduling-from-manual-requests-to-kueue-automation

AI21 Labs bytte ut en manuell #gpu-resources-kanal mot Kueue, ett system med öppen källkod för köhantering av jobb, för sin gemensamma GPU-pool med omkring 10 000 GPU:er på Google Kubernetes Engine. Kueue tar automatiskt in, prioriterar och avbryter jobb, vilket minskar behovet av att samordna resursförfrågningar manuellt. Förändringen minskade både behovet av manuella insatser och tiden som kritiska jobb fick vänta på resurser. AI21 samarbetade med Kueue-teamet, vilket bidrog till nya funktioner som Admission Fair Sharing.

## Fakta

- Omkring 10 000 GPU:er hanteras i ett enda GKE-kluster.
- AI21 minskade tiden till start för jobb med hög prioritet med 83 procent.

## Varför det spelar roll

För AI21:s forskare innebär automatiseringen att de behöver lägga mindre tid på att förhandla om tillgång till GPU:er och att viktiga träningsjobb kommer igång snabbare.

## Källor och referenser

1. [From manual negotiation to automated scheduling: How AI21 manages its GPU fleet with Kueue Google Cloud recently published our story on AI Hypercomputer, including an 83% reduction in time-to-start fo](https://www.ai21.com/blog/how-ai21-manages-its-gpu-fleet-with-kueue/) – AI21 Labs

Senast uppdaterad: 2026-10-04