A NVIDIA publicou a versão 1.4.0rc1 do TensorRT‑LLM em 22 de outubro de 2026. A atualização torna o gerenciador de cache KV V2 a API padrão, uma mudança incompatível para desenvolvedores, e remove os campos de LlmRequest que não são mais usados. Também adiciona suporte a modelos como DeepSeek‑V4.1‑Flash, NVFP4 GLM‑5.3‑Flash e Qwen3.8‑Flash‑Next, entre outros.
Por que importa
Desenvolvedores que usam o TensorRT‑LLM precisam atualizar o código para a nova API de cache KV; caso contrário, os aplicativos não conseguirão iniciar.
