# NVIDIA släpper releasekandidat av TensorRT‑LLM 1.4.0

> Den nya versionen stöder flera modeller och lägger till en gles KV-cache och en Mooncake-lagringspool. Den åtgärdar också fel vid strömning över flera GPU:er och med kvantiserade huvuden.

Oossa · 2026-10-14 · https://oossa.com/sv/nvidia-releases-tensorrt-llm-1-4-0-release-candidate

NVIDIA tillkännagav TensorRT‑LLM version 1.4.0rc0 den 14 okt 2026. Uppdateringen ger stöd för nya modeller som GLM‑5.3‑Flash och Qwen‑Image‑Layered och introducerar en gles nyckel-värde-cache med låsning anpassad efter lagringsnivå. Den lägger också till en Mooncake-lagringspool och en funktion för förebyggande schemaläggning i V2-schemaläggaren. Flera fel har åtgärdats, däribland låsningar vid strömning över flera GPU:er på H100-GPU:er och krascher med DeepSeek-modeller på Blackwell-GPU:er.

## Fakta

- Releasedatum: 2026‑10‑14 (onsdag 14 okt 2026) – enligt GitHub-taggsidan
- Nya funktioner: gles KV-cache, Mooncake-lagringspool och förebyggande schemaläggning i V2-schemaläggaren

## Varför det spelar roll

Utvecklare kan köra större språkmodeller på NVIDIA-GPU:er med lägre minnesåtgång och färre krascher.

## Källor och referenser

1. [NVIDIA/TensorRT-LLM v1.4.0rc0](https://github.com/NVIDIA/TensorRT-LLM/releases/tag/v1.4.0rc0) – TensorRT-LLM, 2026-10-14

Senast uppdaterad: 2026-10-14