NVIDIA, TensorRT‑LLM 1.4.0rc1 sürümünü 22 Ekim 2026’da yayımladı. Güncelleme, KV cache yöneticisi V2’yi varsayılan API yapıyor; geliştiriciler açısından geriye dönük uyumluluğu bozan bu değişiklikle artık kullanılmayan LlmRequest alanları da kaldırılıyor. Sürüm ayrıca DeepSeek‑V4.1‑Flash, NVFP4 GLM‑5.3‑Flash ve Qwen3.8‑Flash‑Next gibi modellere destek ekliyor.
Neden önemli
TensorRT‑LLM kullanan geliştiricilerin yeni KV cache API’sine geçmek için kodlarını güncellemesi gerekiyor; aksi halde uygulamaları başlatılamayacak.
