A AWS anunciou o beta público do TorchNeuron, um backend nativo do PyTorch para seus chips de IA Trainium. A biblioteca de código aberto permite que desenvolvedores executem código PyTorch no Trainium simplesmente adicionando .to('neuron'). Ela funciona com recursos padrão do PyTorch, como execução eager e torch.compile. O TorchNeuron está disponível para instâncias EC2 Trainium2 e Trainium3 por meio de um repositório no GitHub.
Por que importa
Pesquisadores agora podem treinar modelos PyTorch nos chips Trainium de alto desempenho da AWS sem reescrever o código, reduzindo custos e esforço.