NVIDIAは、AIファクトリーを監視する運用プラットフォーム「Minerva」を発表した。GPU、ネットワーク、ストレージ、スケジューラー、AIワークロードのデータを集約し、AIモデルで異常な挙動を検知するとともに、関連する問題をつなぎ合わせて原因の候補を示す。
運用担当者はMinervaに組み込まれたアシスタントにクラスターの状態を尋ね、推奨される修正策を確認できる。各チームは自ら修正を適用することも、プラットフォームを自動化ツールに接続することも可能だ。NVIDIAによると、IRENがすでにMinervaを利用しており、ほかに8つの組織が導入を予定している。
なぜ重要か
大規模なAIクラスターを運用するチームにとって、Minervaは処理の遅いジョブの原因をインフラの問題までたどりやすくする可能性がある。ただし、NVIDIAの発表には実測結果や価格は示されていない。
