AWSはNeuron 2.33の提供開始を発表した。Trainiumチップ向けのPyTorchネイティブバックエンド「TorchNeuron」がパブリックベータとして含まれる。開発者は、eagerモードまたはtorch.compileを使って、EC2 Trn2およびTrn3インスタンス上で標準的なPyTorchコードを実行できる。今回のリリースでは、Trainiumのヘルス問題を1秒未満で検知し、問題のあるノードやデバイスを特定するNeuron Observerも追加された。
なぜ重要か
PyTorchユーザーは、カスタムコードを変更せずにAWS Trainium上でモデルを学習・実行できるようになり、より安価なハードウェアでAI開発を加速できる。
