NVIDIAは2026年10月14日、TensorRT‑LLMバージョン1.4.0rc0を発表した。今回のアップデートでは、GLM‑5.3‑FlashやQwen‑Image‑Layeredなどのモデルに新たに対応し、階層を考慮したロック機能を備えるスパースなキー・バリューキャッシュを導入した。また、MooncakeストアプールとV2スケジューラーのプリエンプション機能も追加。H100 GPUでマルチGPUストリーミングが停止する問題や、Blackwell GPUでDeepSeekモデルがクラッシュする問題など、複数の不具合も修正した。
なぜ重要か
開発者は、メモリー使用量を抑え、クラッシュを減らしながら、NVIDIA GPU上でより大規模な言語モデルを実行できる。
