Hugging Face가 TPU를 다른 기기처럼 다룰 수 있게 해주는 네이티브 PyTorch 백엔드 TorchTPU를 발표했습니다. pip 명령어 한 번으로 설치한 뒤 device_map="tpu"로 설정하면 TPU에서 Transformers나 Diffusers 모델을 불러올 수 있습니다. 패키지에는 TPU에 최적화된 Pallas 커널, 분산 학습 지원, 성능 향상을 위한 torch.compile 통합 기능이 포함됩니다. 이제 Hugging Face 모델을 TPU에서 실행할 때 Optimum TPU를 사용할 필요가 없습니다.
왜 중요한가
이제 PyTorch 개발자는 별도 프레임워크 없이 Google Cloud TPU를 사용할 수 있어 대규모 학습과 추론을 더 간편하게 할 수 있습니다.