PyTorch anunció TorchNeuron, un backend nativo que hace que AWS Trainium aparezca como un dispositivo PyTorch convencional. La nueva biblioteca permite a los desarrolladores pasar un modelo a Trainium con solo usar .to('neuron') y recurrir a torch.compile para obtener velocidad de producción. Es compatible con la ejecución eager, el modo eager adaptativo y los kernels personalizados mediante Neuron Kernel Interface. El código se publicará como código abierto bajo la licencia Apache 2.0 y la beta pública comenzará el 20 de octubre.
Por qué importa
Los investigadores pueden usar el mismo código de PyTorch para aprovechar la velocidad de Trainium sin rehacer sus flujos de trabajo.
