# NVIDIA veröffentlicht Release Candidate von TensorRT‑LLM 1.4.0

> Das Update unterstützt mehrere neue Modelle, bringt einen Sparse-KV-Cache und einen Mooncake-Store-Pool und behebt Fehler beim Multi-GPU-Streaming und bei quantisierten Heads.

Oossa · 2026-10-14 · https://oossa.com/de/nvidia-releases-tensorrt-llm-1-4-0-release-candidate

NVIDIA hat am 14. Okt. 2026 TensorRT‑LLM Version 1.4.0rc0 angekündigt. Das Update unterstützt neue Modelle wie GLM‑5.3‑Flash und Qwen‑Image‑Layered und führt einen Sparse-Key-Value-Cache mit tier-bewusstem Locking ein. Außerdem gibt es einen Mooncake-Store-Pool und eine V2-Scheduler-Preemption-Funktion. Zu den behobenen Fehlern zählen Hänger beim Multi-GPU-Streaming auf H100-GPUs und Abstürze mit DeepSeek-Modellen auf Blackwell-GPUs.

## Die Fakten

- Veröffentlichungsdatum: 2026‑10‑14 (Mi., 14. Okt. 2026) – laut GitHub-Tag-Seite
- Neue Funktionen: Sparse-KV-Cache, Mooncake-Store-Pool, V2-Scheduler-Preemption

## Warum es wichtig ist

Entwickler können größere Sprachmodelle mit geringerem Speicherbedarf und weniger Abstürzen auf NVIDIA-GPUs ausführen.

## Quellen und Referenzen

1. [NVIDIA/TensorRT-LLM v1.4.0rc0](https://github.com/NVIDIA/TensorRT-LLM/releases/tag/v1.4.0rc0) – TensorRT-LLM, 2026-10-14

Zuletzt aktualisiert: 2026-10-14