PyTorch heeft TorchNeuron aangekondigd, een native backend die AWS Trainium als een regulier PyTorch-apparaat beschikbaar maakt. Met de nieuwe bibliotheek kunnen ontwikkelaars een model eenvoudig naar Trainium overschakelen met .to('neuron') en torch.compile gebruiken voor productieprestaties. De bibliotheek ondersteunt eager execution, adaptive eager mode en aangepaste kernels via de Neuron Kernel Interface. De code wordt uitgebracht onder de Apache 2.0-licentie en de openbare bèta begint op 20 okt.
Waarom het ertoe doet
Onderzoekers kunnen dezelfde PyTorch-code gebruiken om de snelheid van Trainium te benutten, zonder hun workflows opnieuw te moeten schrijven.
