# ارائه عمومی SGLang-Neuron آمازون برای AWS Trainium

> آمازون SGLang-Neuron را در قالب یک کانتینر عمومی عرضه کرده است تا کاربران بتوانند مدل‌های زبانی بزرگ را با همان روند کاری SGLang روی تراشه‌های Trainium اجرا کنند.

Oossa · 2026-11-12 · https://oossa.com/fa/amazon-makes-sglang-neuron-available-for-aws-trainium

آمازون اعلام کرد SGLang-Neuron از طریق یک کانتینر AWS Deep Learning به‌صورت عمومی در دسترس است. این افزونه سامانه سرو SGLang را به تراشه‌های هوش مصنوعی AWS Trainium متصل می‌کند و به شما امکان می‌دهد مدل‌ها را اجرا کنید و با استفاده از API آشنای SGLang، rolloutهای RL بسازید. این ابزار بر پایه PyTorch بومی اجرا می‌شود و از قابلیت‌هایی مانند معماری mixture-of-experts و انتقال KV-cache از طریق Elastic Fabric Adapter پشتیبانی می‌کند. راهنمای شروع سریع نشان می‌دهد چطور کانتینر را روی یک نمونه EC2 مبتنی بر Trainium3 راه‌اندازی کنید و مدلی با 120 میلیارد پارامتر را سرو کنید.

## حقایق

- تاریخ اعلام: 2026‑11‑12 ("Thu Nov 12 2026 23:03:34 GMT+0100")
- نسخه کانتینر: v0.1.0-neuron-py314-sdk-2.33.0

## چرا مهم است

توسعه‌دهندگان اکنون می‌توانند مدل‌های زبانی بسیار بزرگ را روی تراشه‌های Trainium آمازون اجرا کنند، بی‌آنکه کد SGLang خود را تغییر دهند؛ این کار هزینه را کاهش می‌دهد و استقرار را ساده‌تر می‌کند.

## منابع و ارجاع‌ها

1. [Deploy frontier AI models on AWS Trainium with SGLang-Neuron](https://aws.amazon.com/blogs/machine-learning/deploy-frontier-ai-models-on-aws-trainium-with-sglang-neuron/) – AWS, 2026-11-12

آخرین به‌روزرسانی: 2026-11-12