PyTorch har presenterat TorchNeuron, en inbyggd backend som gör att AWS Trainium visas som en vanlig PyTorch-enhet. Med det nya biblioteket kan utvecklare flytta en modell till Trainium med kommandot .to('neuron') och använda torch.compile för produktionsprestanda. Det stöder eager execution, adaptive eager mode och anpassade kärnor via Neuron Kernel Interface. Koden släpps som öppen källkod under Apache 2.0 och den offentliga betaversionen startar den 20 okt.
Varför det spelar roll
Forskare kan använda samma PyTorch-kod för att dra nytta av Trainiums prestanda utan att skriva om sina arbetsflöden.
