NVIDIA publie TensorRT‑LLM 1.4.0rc1 avec le gestionnaire de cache KV V2

Cette version prend en charge plusieurs modèles, définit le gestionnaire de cache KV V2 comme valeur par défaut et supprime des champs de requête inutilisés.

BrèvePar OossaPublié par Oossa: 22 octobre 2026 à 02:09 UTC1 min de lecture

1 sources ↓

NVIDIA a publié TensorRT‑LLM version 1.4.0rc1 le 22 octobre 2026. Cette mise à jour fait du gestionnaire de cache KV V2 l’API par défaut, un changement incompatible pour les développeurs, et supprime les champs désormais inutilisés de LlmRequest. Elle ajoute également la prise en charge de plusieurs modèles, dont DeepSeek‑V4.1‑Flash, NVFP4 GLM‑5.3‑Flash et Qwen3.8‑Flash‑Next.

Pourquoi c'est important

Les développeurs qui utilisent TensorRT‑LLM doivent adapter leur code à la nouvelle API de cache KV, faute de quoi leurs applications ne démarreront pas.