NVIDIA heeft TensorRT‑LLM versie 1.4.0rc1 op 22 oktober 2026 uitgebracht. De update maakt KV-cachemanager V2 de standaard-API. Dat is een ingrijpende wijziging voor ontwikkelaars. Ook verwijdert de update de inmiddels ongebruikte velden van LlmRequest. Verder voegt de versie ondersteuning toe voor onder meer DeepSeek‑V4.1‑Flash, NVFP4 GLM‑5.3‑Flash en Qwen3.8‑Flash‑Next.
Waarom het ertoe doet
Ontwikkelaars die TensorRT‑LLM gebruiken, moeten hun code aanpassen aan de nieuwe KV-cache-API. Anders starten hun applicaties niet.
