AWS a annoncé la bêta publique de TorchNeuron, un backend PyTorch natif pour ses puces d’IA Trainium. Cette bibliothèque open source permet aux développeurs d’exécuter du code PyTorch sur Trainium en ajoutant simplement .to('neuron'). Elle prend en charge des fonctionnalités PyTorch standard comme l’exécution eager et torch.compile. TorchNeuron est disponible pour les instances EC2 Trainium2 et Trainium3 via un dépôt GitHub.
Pourquoi c'est important
Les chercheurs peuvent désormais entraîner des modèles PyTorch sur les puces Trainium haute performance d’AWS sans réécrire leur code, ce qui réduit les coûts et les efforts.
