NVIDIA در 22 اکتبر 2026 نسخه 1.4.0rc1 از TensorRT‑LLM را منتشر کرد. در این به‌روزرسانی، مدیر کش KV نسخه ۲ به API پیش‌فرض تبدیل شده است؛ تغییری ناسازگار با نسخه‌های قبلی که توسعه‌دهندگان باید به آن توجه کنند. فیلدهای LlmRequest که دیگر استفاده نمی‌شوند نیز حذف شده‌اند. این نسخه همچنین پشتیبانی از مدل‌هایی مانند DeepSeek‑V4.1‑Flash، NVFP4 GLM‑5.3‑Flash و Qwen3.8‑Flash‑Next را اضافه می‌کند.
چرا مهم است
توسعه‌دهندگانی که از TensorRT‑LLM استفاده می‌کنند باید کدشان را با API جدید کش KV به‌روزرسانی کنند؛ در غیر این صورت، برنامه‌هایشان اجرا نخواهند شد.
