AWS ha annunciato la beta pubblica di TorchNeuron, un backend PyTorch nativo per i suoi chip AI Trainium. La libreria open source consente agli sviluppatori di eseguire codice PyTorch su Trainium aggiungendo semplicemente .to('neuron'). È compatibile con funzionalità PyTorch standard come l’esecuzione eager e torch.compile. TorchNeuron è disponibile tramite un repository GitHub per le istanze EC2 Trainium2 e Trainium3.
Perché conta
Ora i ricercatori possono addestrare modelli PyTorch sui chip Trainium ad alte prestazioni di AWS senza riscrivere il codice, riducendo costi e lavoro.
