AWS anunció la beta pública de TorchNeuron, un backend nativo de PyTorch para sus chips de IA Trainium. Esta biblioteca de código abierto permite a los desarrolladores ejecutar código de PyTorch en Trainium con solo añadir .to('neuron'). Es compatible con funciones estándar de PyTorch, como la ejecución eager y torch.compile. TorchNeuron está disponible para instancias EC2 Trainium2 y Trainium3 a través de un repositorio de GitHub.
Por qué importa
Los investigadores ya pueden entrenar modelos de PyTorch en los chips Trainium de alto rendimiento de AWS sin reescribir el código, lo que reduce el costo y el esfuerzo.
