# llm‑d 1.0 کنترل‌های داخلی برای اجرای سازمانی هوش مصنوعی می‌آورد

> IBM، Red Hat و شرکایشان نسخه 1.0 از llm‑d را با کنترل‌های QoS، ارتقای بدون قطعی و مسیریابی کش برای مدل‌های بزرگِ خودمیزبان منتشر کردند.

Oossa · 2026-10-20 · https://oossa.com/fa/llm-d-1-0-adds-in-house-controls-for-enterprise-ai-inference

IBM و همکارانش در 20 Oct 2026، در کنفرانس PyTorch، از نسخه 1.0 چارچوب متن‌باز llm‑d رونمایی کردند. این به‌روزرسانی کنترل‌های کیفیت خدمات، ارتقای بدون قطعی و مسیریابی هوشمندتر کش را اضافه می‌کند تا شرکت‌ها بتوانند مدل‌های زبانی بزرگ را روی کلاسترهای Kubernetes خود اجرا کنند، بی‌آنکه سرویس بیش از ظرفیتش تحت فشار قرار بگیرد. IBM گفت در یک نمایش آزمایشی، 3,000 عامل کدنویسی روی سخت‌افزار خودمیزبان اجرا شدند و هزینه 5 تا 10 برابر کمتر از یک مدل میزبانی‌شده بود. این چارچوب با موتورهای استنتاجی مانند vLLM و SGLang کار می‌کند.

## حقایق

- نسخه 1.0 در 20 Oct 2026 منتشر شد
- نمایش آزمایشی: 3,000 عامل با هزینه‌ای 5‑10× کمتر از یک سرویس میزبانی‌شده اجرا شدند

## چرا مهم است

سازمان‌ها می‌توانند بارهای کاری هوش مصنوعی را در زیرساخت خود نگه دارند، هزینه‌های ابری را کاهش دهند و از وابستگی به یک ارائه‌دهنده واحد دور بمانند.

## منابع و ارجاع‌ها

1. [IBM-backed llm-d framework adds controls for running AI models in-house](https://siliconangle.com/2026/10/20/ibm-backed-llm-d-framework-adds-controls-for-running-ai-models-in-house/) – SiliconANGLE, 2026-10-20
2. [llm-d 1.0 hardens open-source AI inference for day 2 production operations](https://research.ibm.com/blog/llmd-1-0-is-ready-for-production-inference-serving) – IBM Research
3. [Google Cloud Ships llm-d 1.0 With Cache-Aware Routing for TPU and GPU Fleets](https://www.marktechpost.com/2026/10/20/llm-d-1-0-open-source-distributed-inference-stack/) – MarkTechPost, 2026-10-21

آخرین به‌روزرسانی: 2026-10-21
