# AI21 automatise la répartition des GPU avec Kueue

> AI21 Labs a remplacé les négociations sur Slack par Kueue sur un cluster GKE de 10 000 GPU, réduisant les interventions manuelles et la privation de ressources des tâches.

Oossa · 2026-10-04 · https://oossa.com/fr/ai21-moves-gpu-scheduling-from-manual-requests-to-kueue-automation

AI21 Labs a remplacé le canal partagé #gpu-resources, où les demandes étaient gérées manuellement, par Kueue, un système open source de mise en file d’attente des tâches, pour répartir son parc d’environ 10 000 GPU sur Google Kubernetes Engine. Kueue admet, hiérarchise et préempte automatiquement les tâches, ce qui réduit le besoin de coordonner les demandes. Ce changement a diminué les interventions manuelles et le temps pendant lequel les tâches critiques restaient sans ressources. AI21 a travaillé avec l’équipe de Kueue, contribuant à l’ajout de nouvelles fonctionnalités comme Admission Fair Sharing.

## Les faits

- Environ 10 000 GPU sont gérés dans un seul cluster GKE.
- AI21 a réduit de 83 % le délai de démarrage des charges de travail prioritaires.

## Pourquoi c'est important

Pour les chercheurs en IA d’AI21, l’automatisation leur permet de consacrer moins de temps à négocier l’accès aux GPU et d’accélérer le lancement des tâches d’entraînement importantes.

## Sources et références

1. [From manual negotiation to automated scheduling: How AI21 manages its GPU fleet with Kueue Google Cloud recently published our story on AI Hypercomputer, including an 83% reduction in time-to-start fo](https://www.ai21.com/blog/how-ai21-manages-its-gpu-fleet-with-kueue/) – AI21 Labs

Dernière mise à jour: 2026-10-04