A IBM e seus parceiros anunciaram a versão 1.0 do framework de código aberto llm‑d em 20 de outubro de 2026, durante a PyTorch Conference. A atualização inclui controles de qualidade de serviço, atualizações sem interrupção e roteamento de cache mais inteligente, permitindo que as empresas executem grandes modelos de linguagem em seus próprios clusters Kubernetes sem sobrecarregar o serviço. Segundo a IBM, uma demonstração executou 3.000 agentes de programação em hardware próprio a um custo de cinco a dez vezes menor que o de um modelo hospedado. O framework é compatível com mecanismos de inferência como vLLM e SGLang.
Por que importa
As empresas podem manter as cargas de trabalho de IA internamente, reduzir os custos de nuvem e evitar depender de um único fornecedor.
