# Amazon открыла доступ к SGLang-Neuron для AWS Trainium

> SGLang-Neuron теперь доступен в виде публичного контейнера: он позволяет запускать большие языковые модели на чипах Trainium с привычным рабочим процессом SGLang.

Oossa · 2026-11-12 · https://oossa.com/ru/amazon-makes-sglang-neuron-available-for-aws-trainium

Amazon объявила, что SGLang-Neuron стал общедоступен в составе AWS Deep Learning Container. Плагин связывает систему обслуживания моделей SGLang с ИИ-чипами AWS Trainium и позволяет запускать модели и генерировать RL-траектории с помощью знакомого API SGLang. Решение работает на нативном PyTorch и поддерживает такие функции, как смесь экспертов (mixture-of-experts) и передачу KV-кэша через Elastic Fabric Adapter. В кратком руководстве показано, как запустить контейнер на инстансе Trainium3 EC2 и обслуживать модель с 120 миллиардами параметров.

## Факты

- Дата объявления: 2026‑11‑12 ("Thu Nov 12 2026 23:03:34 GMT+0100")
- Версия контейнера: v0.1.0-neuron-py314-sdk-2.33.0

## Почему это важно

Разработчики теперь могут запускать очень большие языковые модели на чипах Trainium от AWS, не меняя код SGLang. Это снижает затраты и упрощает развертывание.

## Источники и ссылки

1. [Deploy frontier AI models on AWS Trainium with SGLang-Neuron](https://aws.amazon.com/blogs/machine-learning/deploy-frontier-ai-models-on-aws-trainium-with-sglang-neuron/) – AWS, 2026-11-12

Обновлено: 2026-11-12