NVIDIA ha pubblicato TensorRT‑LLM versione 1.4.0rc1 il 22 ottobre 2026. L’aggiornamento imposta KV cache manager V2 come API predefinita: una modifica incompatibile con le versioni precedenti per gli sviluppatori. Inoltre, elimina i campi di LlmRequest ormai inutilizzati e aggiunge il supporto per DeepSeek‑V4.1‑Flash, NVFP4 GLM‑5.3‑Flash e Qwen3.8‑Flash‑Next, tra gli altri.
Perché conta
Gli sviluppatori che usano TensorRT‑LLM devono aggiornare il codice alla nuova API della cache KV, altrimenti le applicazioni non si avvieranno.
