AWS meddelade att TorchNeuron nu finns i öppen betaversion. Det är en PyTorch-backend som körs direkt på företagets Trainium-chipp för AI. Biblioteket har öppen källkod och gör det möjligt för utvecklare att köra PyTorch-kod på Trainium genom att helt enkelt lägga till .to('neuron'). Det fungerar med vanliga PyTorch-funktioner som eager execution och torch.compile. TorchNeuron finns för EC2-instanser med Trainium2 och Trainium3 via ett GitHub-repo.
Varför det spelar roll
Forskare kan nu träna PyTorch-modeller på AWS högpresterande Trainium-chipp utan att skriva om koden, vilket minskar kostnaderna och arbetsinsatsen.
