# llm‑d 1.0 traz controles próprios para inferência de IA empresarial

> IBM, Red Hat e parceiros lançaram a versão 1.0 do llm‑d, com controles de QoS, atualizações sem interrupção e roteamento inteligente de cache para grandes modelos hospedados pela própria empresa.

Oossa · 2026-10-20 · https://oossa.com/pt/llm-d-1-0-adds-in-house-controls-for-enterprise-ai-inference

A IBM e seus parceiros anunciaram a versão 1.0 do framework de código aberto llm‑d em 20 de outubro de 2026, durante a PyTorch Conference. A atualização inclui controles de qualidade de serviço, atualizações sem interrupção e roteamento de cache mais inteligente, permitindo que as empresas executem grandes modelos de linguagem em seus próprios clusters Kubernetes sem sobrecarregar o serviço. Segundo a IBM, uma demonstração executou 3.000 agentes de programação em hardware próprio a um custo de cinco a dez vezes menor que o de um modelo hospedado. O framework é compatível com mecanismos de inferência como vLLM e SGLang.

## Os fatos

- Versão 1.0 lançada em 20 de outubro de 2026
- Demonstração: 3.000 agentes executados a um custo 5–10× menor que o de um serviço hospedado

## Por que importa

As empresas podem manter as cargas de trabalho de IA internamente, reduzir os custos de nuvem e evitar depender de um único fornecedor.

## Fontes e referências

1. [IBM-backed llm-d framework adds controls for running AI models in-house](https://siliconangle.com/2026/10/20/ibm-backed-llm-d-framework-adds-controls-for-running-ai-models-in-house/) – SiliconANGLE, 2026-10-20
2. [llm-d 1.0 hardens open-source AI inference for day 2 production operations](https://research.ibm.com/blog/llmd-1-0-is-ready-for-production-inference-serving) – IBM Research
3. [Google Cloud Ships llm-d 1.0 With Cache-Aware Routing for TPU and GPU Fleets](https://www.marktechpost.com/2026/10/20/llm-d-1-0-open-source-distributed-inference-stack/) – MarkTechPost, 2026-10-21

Última atualização: 2026-10-21