# llm‑d 1.0 добавляет контроль инференса ИИ для компаний

> IBM, Red Hat и партнёры выпустили llm‑d версии 1.0: в ней появились QoS, обновления без простоя и маршрутизация с учётом кеша для самостоятельного запуска больших моделей.

Oossa · 2026-10-20 · https://oossa.com/ru/llm-d-1-0-adds-in-house-controls-for-enterprise-ai-inference

IBM и её партнёры представили версию 1.0 фреймворка с открытым исходным кодом llm‑d 20 октября 2026 года на конференции PyTorch. В обновлении появились средства контроля качества обслуживания, обновления без простоя и более интеллектуальная маршрутизация с учётом кеша. Они позволяют компаниям запускать большие языковые модели в собственных кластерах Kubernetes, не перегружая сервис. По словам IBM, в ходе демонстрации на собственном оборудовании запустили 3,000 ИИ-агентов для написания кода — расходы оказались в пять-десять раз ниже, чем при использовании размещённой модели. Фреймворк работает с такими движками инференса, как vLLM и SGLang.

## Факты

- Версия 1.0 выпущена 20 октября 2026 года
- Демонстрация: 3,000 агентов запущены с расходами в 5‑10 раз ниже, чем при использовании размещённого сервиса

## Почему это важно

Компании смогут выполнять ИИ-нагрузки внутри своей инфраструктуры, сокращая расходы на облако и избегая зависимости от одного поставщика.

## Источники и ссылки

1. [IBM-backed llm-d framework adds controls for running AI models in-house](https://siliconangle.com/2026/10/20/ibm-backed-llm-d-framework-adds-controls-for-running-ai-models-in-house/) – SiliconANGLE, 2026-10-20
2. [llm-d 1.0 hardens open-source AI inference for day 2 production operations](https://research.ibm.com/blog/llmd-1-0-is-ready-for-production-inference-serving) – IBM Research
3. [Google Cloud Ships llm-d 1.0 With Cache-Aware Routing for TPU and GPU Fleets](https://www.marktechpost.com/2026/10/20/llm-d-1-0-open-source-distributed-inference-stack/) – MarkTechPost, 2026-10-21

Обновлено: 2026-10-21