Oossa

Hugging Face, Google Cloud TPU용 TorchTPU 출시

새 패키지 TorchTPU를 사용하면 torch_xla나 Optimum TPU 없이도 PyTorch 코드를 Google Cloud TPU에서 직접 실행할 수 있습니다.

짧은 소식작성: Oossa 게시일: 최종 업데이트: 1 분 읽기

Hugging Face가 TPU를 다른 기기처럼 다룰 수 있게 해주는 네이티브 PyTorch 백엔드 TorchTPU를 발표했습니다. pip 명령어 한 번으로 설치한 뒤 device_map="tpu"로 설정하면 TPU에서 Transformers나 Diffusers 모델을 불러올 수 있습니다. 패키지에는 TPU에 최적화된 Pallas 커널, 분산 학습 지원, 성능 향상을 위한 torch.compile 통합 기능이 포함됩니다. 이제 Hugging Face 모델을 TPU에서 실행할 때 Optimum TPU를 사용할 필요가 없습니다.

왜 중요한가

이제 PyTorch 개발자는 별도 프레임워크 없이 Google Cloud TPU를 사용할 수 있어 대규모 학습과 추론을 더 간편하게 할 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.