Oossa

PyTorch 2.15、刷新したNCCLバックエンドを標準に

分散学習のハングを診断する機能を追加。Apple、AMD、Intel、NVIDIAのハードウェアにも対応を拡充した。

短信著者: Oossa公開日: 1 分で読める

PyTorch 2.15がリリースされ、NVIDIA GPU間の連携に使われる通信システムNCCLを利用するジョブでは、刷新されたNCCLバックエンドが標準になった。学習中にGPUのグループがハングした場合、新しいフライトレコーダーが各ランクの処理内容を記録し、チームによる原因調査を支援する。

今回のリリースでは、NIXLバックエンドを通じた片方向データ転送も追加され、分散学習におけるメモリーや通信を開発者がより細かく制御できるようになった。このほか、Apple Silicon向け推論カーネルの高速化、デフォルトホイールのCUDA 13.2への更新、torch.compileでのPython 3.15対応が含まれる。

なぜ重要か

NVIDIA GPUをまたいでモデルを学習するチームは、通信がハングした際の診断記録を得られる。ただし、リリースノートでは復旧時間がどれほど短縮されるかは示されていない。

出典と参考資料

1 件の出典
  1. PyTorch原典を読む

Markdown

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。