AI21 Labs 将 Google Kubernetes Engine 上约 10,000 块 GPU 组成的共享资源池,从人工管理的 #gpu-resources 频道迁移到开源作业排队系统 Kueue。Kueue 会自动接纳、排序和抢占作业,减少人员协调资源申请的需要。此举降低了人工干预频率,也缩短了关键作业等待资源的时间。AI21 与 Kueue 团队合作,推动推出了 Admission Fair Sharing 等新功能。
为什么重要
对 AI21 的研究人员而言,自动化意味着他们无需再花时间协调 GPU 使用权限,重要训练作业也能更快启动。