Oossa

AWS, PyTorch 네이티브 지원하는 Neuron 2.33 출시

Trainium용 TorchNeuron과 상태 모니터링 도구 Observer, 새 디버깅 도구를 퍼블릭 베타로 선보였다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

AWS가 Neuron 2.33을 출시했다. 이번 버전에는 Trainium 칩용 네이티브 PyTorch 백엔드인 TorchNeuron이 퍼블릭 베타로 포함됐다. 개발자는 EC2 Trn2 및 Trn3 인스턴스에서 기본 PyTorch 코드를 eager 모드 또는 torch.compile을 사용해 실행할 수 있다. 또한 Trainium의 상태 이상을 1초 이내에 감지하고 문제가 있는 노드나 장치를 알려주는 Neuron Observer도 추가됐다.

왜 중요한가

PyTorch 사용자는 별도의 코드 변경 없이 AWS Trainium에서 모델을 학습하고 실행할 수 있어, 더 저렴한 하드웨어에서 AI 개발을 앞당길 수 있다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.