Oossa

Hugging Face、Google Cloud TPUでPyTorchを直接実行できるTorchTPUを発表

新パッケージTorchTPUにより、torch_xlaやOptimum TPUを使わずにPyTorchコードをGoogle Cloud TPUで実行できる。

短信著者: Oossa公開日: 最終更新: 1 分で読める

Hugging Faceは、TPUをほかのデバイスと同じように扱えるネイティブPyTorchバックエンド「TorchTPU」を発表した。pipコマンド1つでインストールでき、device_map="tpu"を指定すれば、TPU上でTransformersやDiffusersのモデルを読み込める。このパッケージには、TPU向けに最適化したPallasカーネル、分散学習のサポート、さらなる高速化を実現するtorch.compileとの連携が含まれる。Hugging FaceのモデルをTPUで使う際に、Optimum TPUは不要になった。

なぜ重要か

PyTorch開発者は追加のフレームワークを使わずにGoogle Cloud TPUを利用できるようになり、大規模な学習や推論がより簡単になる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。