Oossa

AI21 用 Kueue 自动调度 GPU,告别人工申请

AI21 Labs 在拥有 10,000 块 GPU 的 GKE 集群中采用 Kueue,取代 Slack 式的 GPU 协调,减少人工干预和作业资源等待。

简讯OossaOossa 发布日期: 1 分钟阅读

AI21 Labs 将 Google Kubernetes Engine 上约 10,000 块 GPU 组成的共享资源池,从人工管理的 #gpu-resources 频道迁移到开源作业排队系统 Kueue。Kueue 会自动接纳、排序和抢占作业,减少人员协调资源申请的需要。此举降低了人工干预频率,也缩短了关键作业等待资源的时间。AI21 与 Kueue 团队合作,推动推出了 Admission Fair Sharing 等新功能。

为什么重要

对 AI21 的研究人员而言,自动化意味着他们无需再花时间协调 GPU 使用权限,重要训练作业也能更快启动。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。