AWS hat die öffentliche Beta von TorchNeuron angekündigt, einem nativen PyTorch-Backend für die Trainium-KI-Chips des Unternehmens. Mit der Open-Source-Bibliothek können Entwickler PyTorch-Code auf Trainium ausführen, indem sie einfach .to('neuron') hinzufügen. TorchNeuron unterstützt gängige PyTorch-Funktionen wie die eager execution und torch.compile. Die Bibliothek ist für EC2-Trainium2- und Trainium3-Instances über ein GitHub-Repository verfügbar.
Warum es wichtig ist
Forschende können PyTorch-Modelle jetzt auf den leistungsstarken Trainium-Chips von AWS trainieren, ohne den Code umschreiben zu müssen. Das senkt Kosten und Aufwand.
