NVIDIA در 14 اکتبر 2026 نسخه 1.4.0rc0 از TensorRT‑LLM را معرفی کرد. این به‌روزرسانی پشتیبانی از مدل‌های جدیدی مانند GLM‑5.3‑Flash و Qwen‑Image‑Layered را اضافه می‌کند و حافظه نهان تنک کلید-مقدار را با قفل‌گذاری آگاه از لایه‌های ذخیره‌سازی ارائه می‌دهد. همچنین یک مخزن Mooncake و قابلیت پیش‌دستی زمان‌بند V2 را اضافه می‌کند. چندین باگ نیز برطرف شده‌اند؛ از جمله هنگ‌کردن پخش جریانی چند GPU روی پردازنده‌های گرافیکی H100 و کرش‌کردن مدل‌های DeepSeek روی پردازنده‌های گرافیکی Blackwell.
چرا مهم است
توسعه‌دهندگان می‌توانند مدل‌های زبانی بزرگ‌تری را با مصرف حافظه کمتر و کرش‌های کمتر روی پردازنده‌های گرافیکی NVIDIA اجرا کنند.
