PyTorch, AWS Trainium’u standart bir PyTorch aygıtı gibi kullanmayı sağlayan yerel arka uç TorchNeuron’u duyurdu. Yeni kütüphane, geliştiricilerin .to('neuron') komutuyla modellerini Trainium’a aktarmasına ve üretim performansı için torch.compile kullanmasına olanak tanıyor. Eager yürütmeyi, uyarlanabilir eager modunu ve Neuron Kernel Interface üzerinden özel çekirdekleri destekliyor. Kod, Apache 2.0 lisansı altında açık kaynak olarak yayımlanacak; herkese açık beta 20 Ekim’de başlayacak.
Neden önemli
Araştırmacılar, iş akışlarını yeniden yazmadan aynı PyTorch kodunu kullanarak Trainium’un hızından yararlanabilir.
