AWSは、Trainium AIチップ向けのネイティブなPyTorchバックエンド「TorchNeuron」のパブリックベータを発表しました。このオープンソースライブラリを使えば、.to('neuron')を追加するだけで、PyTorchのコードをTrainium上で実行できます。eager executionやtorch.compileなど、標準的なPyTorchの機能にも対応しています。TorchNeuronはGitHubリポジトリから利用でき、EC2 Trainium2およびTrainium3インスタンスで動作します。
なぜ重要か
研究者はコードを書き換えることなく、AWSの高性能なTrainiumチップ上でPyTorchモデルを学習できるようになり、コストと手間を抑えられます。
