AWS a annoncé la disponibilité de Neuron 2.33. Cette version inclut TorchNeuron, un backend PyTorch natif pour les puces Trainium, en bêta publique. Les développeurs peuvent exécuter du code PyTorch standard sur les instances EC2 Trn2 et Trn3, en mode eager ou avec torch.compile. La version ajoute également Neuron Observer, qui détecte les problèmes de santé des puces Trainium en moins d’une seconde et indique le nœud ou l’appareil défectueux.
Pourquoi c'est important
Les utilisateurs de PyTorch peuvent désormais entraîner et exécuter des modèles sur AWS Trainium sans modifier leur code, ce qui accélère le développement de l’IA sur du matériel moins coûteux.