NVIDIA、KVキャッシュマネージャーV2を標準化したTensorRT‑LLM 1.4.0rc1を公開

新バージョンは複数のモデルに対応し、KVキャッシュマネージャーV2をデフォルトに設定。使われていないリクエストフィールドも削除した。

短信著者： OossaOossa公開日: 2026年10月22日 2:09 UTC1 分で読める

NVIDIAは2026年10月22日、TensorRT‑LLM バージョン1.4.0rc1を公開した。今回のアップデートでは、KVキャッシュマネージャーV2がデフォルトAPIとなった。開発者にとっては互換性を損なう変更で、現在使われていないLlmRequestのフィールドも削除された。また、DeepSeek‑V4.1‑Flash、NVFP4 GLM‑5.3‑Flash、Qwen3.8‑Flash‑Nextなどのモデルに新たに対応した。