# Amazon lance SGLang-Neuron pour AWS Trainium

> Amazon propose désormais SGLang-Neuron dans un conteneur public, permettant d’exécuter des grands modèles de langage sur les puces Trainium avec le même workflow SGLang.

Oossa · 2026-11-12 · https://oossa.com/fr/amazon-makes-sglang-neuron-available-for-aws-trainium

Amazon a annoncé la disponibilité publique de SGLang-Neuron dans un conteneur AWS Deep Learning. Ce plugin relie le système d’inférence SGLang aux puces d’IA AWS Trainium et permet de lancer des modèles et de générer des rollouts RL à l’aide de l’API SGLang habituelle. Il fonctionne avec PyTorch natif et prend en charge des fonctionnalités telles que les modèles à mélange d’experts et le transfert du cache KV via Elastic Fabric Adapter. Un guide de démarrage rapide explique comment lancer le conteneur sur une instance EC2 Trainium3 et servir un modèle de 120 milliards de paramètres.

## Les faits

- Date de l’annonce : 2026‑11‑12 ("Thu Nov 12 2026 23:03:34 GMT+0100")
- Version du conteneur : v0.1.0-neuron-py314-sdk-2.33.0

## Pourquoi c'est important

Les développeurs peuvent désormais exécuter de très grands modèles de langage sur les puces Trainium d’AWS sans modifier leur code SGLang, ce qui réduit les coûts et simplifie le déploiement.

## Sources et références

1. [Deploy frontier AI models on AWS Trainium with SGLang-Neuron](https://aws.amazon.com/blogs/machine-learning/deploy-frontier-ai-models-on-aws-trainium-with-sglang-neuron/) – AWS, 2026-11-12

Dernière mise à jour: 2026-11-12