PyTorch 2.15がリリースされ、NVIDIA GPU間の連携に使われる通信システムNCCLを利用するジョブでは、刷新されたNCCLバックエンドが標準になった。学習中にGPUのグループがハングした場合、新しいフライトレコーダーが各ランクの処理内容を記録し、チームによる原因調査を支援する。
今回のリリースでは、NIXLバックエンドを通じた片方向データ転送も追加され、分散学習におけるメモリーや通信を開発者がより細かく制御できるようになった。このほか、Apple Silicon向け推論カーネルの高速化、デフォルトホイールのCUDA 13.2への更新、torch.compileでのPython 3.15対応が含まれる。
なぜ重要か
NVIDIA GPUをまたいでモデルを学習するチームは、通信がハングした際の診断記録を得られる。ただし、リリースノートでは復旧時間がどれほど短縮されるかは示されていない。