AI21、GPU割り当てをKueueで自動化

AI21 Labsは、Google Kubernetes Engine上の約10,000基からなる共有GPUプールについて、手動で調整していた「#gpu-resources」チャンネルを、オープンソースのジョブキューシステム「Kueue」に切り替えた。Kueueはジョブの投入を自動で許可し、優先順位を付け、必要に応じて中断するため、利用申請の調整に人手をかける必要が減る。この変更により、手動対応の頻度と、重要なジョブがリソースを確保できない時間が減少した。AI21はKueueチームと協力し、「Admission Fair Sharing」などの新機能の開発を後押しした。