NVIDIA称,已推出用于监控AI工厂的运维平台Minerva。该平台整合GPU、网络、存储、调度器和AI工作负载的数据,再利用AI模型标记异常行为,并将相关问题关联起来,帮助判断可能的原因。
运营人员可以向Minerva内置的助手询问集群运行状况,并获取修复建议。团队可以自行应用这些修复方案,也可以将平台接入自动化系统。据NVIDIA介绍,IREN已经在使用Minerva,另有八家机构计划部署。
为什么重要
对于运行大型AI集群的团队,Minerva有望帮助他们更轻松地追查作业变慢是否源于基础设施问题。不过,NVIDIA的公告没有提供经过测量的效果数据或价格信息。