O PyTorch anunciou o TorchNeuron, um backend nativo que faz o AWS Trainium aparecer como um dispositivo PyTorch comum. A nova biblioteca permite que desenvolvedores migrem um modelo para o Trainium simplesmente usando .to('neuron') e recorram ao torch.compile para obter velocidade de produção. Ela oferece suporte à execução eager, ao modo eager adaptativo e a kernels personalizados por meio da Neuron Kernel Interface. O código será disponibilizado como código aberto sob a licença Apache 2.0, e a versão beta pública começa em 20 de outubro.
Por que importa
Pesquisadores podem usar o mesmo código PyTorch para aproveitar a velocidade do Trainium sem reescrever seus fluxos de trabalho.
