# Amazon libera SGLang-Neuron para o AWS Trainium

> O SGLang-Neuron agora está disponível em um contêiner público da Amazon, permitindo executar grandes modelos de linguagem nos chips Trainium com o fluxo de trabalho habitual do SGLang.

Oossa · 2026-11-12 · https://oossa.com/pt/amazon-makes-sglang-neuron-available-for-aws-trainium

A Amazon anunciou que o SGLang-Neuron está disponível publicamente por meio de um contêiner de aprendizado profundo da AWS. O plug-in conecta o sistema de inferência SGLang aos chips de IA AWS Trainium, permitindo iniciar modelos e gerar rollouts de RL usando a conhecida API do SGLang. Ele funciona com PyTorch nativo e oferece suporte a recursos como mistura de especialistas e transferência de cache KV pelo Elastic Fabric Adapter. Um guia de início rápido mostra como iniciar o contêiner em uma instância EC2 Trainium3 e servir um modelo com 120 bilhões de parâmetros.

## Os fatos

- Data do anúncio: 2026‑11‑12 ("Thu Nov 12 2026 23:03:34 GMT+0100")
- Versão do contêiner: v0.1.0-neuron-py314-sdk-2.33.0

## Por que importa

Agora, os desenvolvedores podem executar modelos de linguagem muito grandes nos chips Trainium da AWS sem alterar o código SGLang, reduzindo custos e simplificando a implantação.

## Fontes e referências

1. [Deploy frontier AI models on AWS Trainium with SGLang-Neuron](https://aws.amazon.com/blogs/machine-learning/deploy-frontier-ai-models-on-aws-trainium-with-sglang-neuron/) – AWS, 2026-11-12

Última atualização: 2026-11-12