PyTorch hat TorchNeuron angekündigt, ein natives Backend, durch das AWS Trainium als reguläres PyTorch-Gerät erscheint. Mit der neuen Bibliothek können Entwickler ein Modell einfach mit .to('neuron') auf Trainium umstellen und es mit torch.compile für den produktiven Einsatz beschleunigen. TorchNeuron unterstützt die eager-Ausführung, den adaptiven eager-Modus und benutzerdefinierte Kernel über die Neuron Kernel Interface. Der Code wird unter der Apache-Lizenz 2.0 als Open Source veröffentlicht; die öffentliche Betaphase beginnt am 20. Oktober.
Warum es wichtig ist
Forschende können denselben PyTorch-Code nutzen, um von der Leistung von Trainium zu profitieren, ohne ihre Arbeitsabläufe neu schreiben zu müssen.
