NVIDIA publicó TensorRT‑LLM versión 1.4.0rc1 el 22 de octubre de 2026. La actualización establece el gestor de caché KV V2 como API predeterminada, un cambio incompatible para los desarrolladores, y elimina los campos de LlmRequest que ya no se usan. También añade compatibilidad con DeepSeek‑V4.1‑Flash, NVFP4 GLM‑5.3‑Flash y Qwen3.8‑Flash‑Next, entre otros modelos.
Por qué importa
Los desarrolladores que usan TensorRT‑LLM deben actualizar su código para usar la nueva API de caché KV; de lo contrario, sus aplicaciones no arrancarán.
