AWS가 Neuron 2.33을 출시했다. 이번 버전에는 Trainium 칩용 네이티브 PyTorch 백엔드인 TorchNeuron이 퍼블릭 베타로 포함됐다. 개발자는 EC2 Trn2 및 Trn3 인스턴스에서 기본 PyTorch 코드를 eager 모드 또는 torch.compile을 사용해 실행할 수 있다. 또한 Trainium의 상태 이상을 1초 이내에 감지하고 문제가 있는 노드나 장치를 알려주는 Neuron Observer도 추가됐다.
왜 중요한가
PyTorch 사용자는 별도의 코드 변경 없이 AWS Trainium에서 모델을 학습하고 실행할 수 있어, 더 저렴한 하드웨어에서 AI 개발을 앞당길 수 있다.