AWS heeft de publieke bèta aangekondigd van TorchNeuron, een native PyTorch-backend voor zijn Trainium-AI-chips. Met deze open source-bibliotheek kunnen ontwikkelaars PyTorch-code op Trainium uitvoeren door simpelweg .to('neuron') toe te voegen. De bibliotheek werkt met standaardfuncties van PyTorch, zoals eager execution en torch.compile. TorchNeuron is via een GitHub-repository beschikbaar voor EC2-instanties met Trainium2 en Trainium3.
Waarom het ertoe doet
Onderzoekers kunnen nu PyTorch-modellen trainen op de krachtige Trainium-chips van AWS zonder code te herschrijven, wat kosten en moeite bespaart.