Oossa

NVIDIA تطلق TensorRT‑LLM 1.4.0rc1 بمدير ذاكرة KV المؤقتة V2

يدعم الإصدار الجديد عدة نماذج، ويجعل مدير ذاكرة KV المؤقتة V2 الخيار الافتراضي، ويحذف حقول الطلبات غير المستخدمة.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدرت NVIDIA الإصدار 1.4.0rc1 من TensorRT‑LLM في 22 أكتوبر 2026. ويجعل التحديث واجهة برمجة التطبيقات لمدير ذاكرة KV المؤقتة V2 هي الافتراضية، في تغيير قد يؤدي إلى تعطل التوافق مع الإصدارات السابقة ويستلزم من المطورين تعديل برامجهم، كما يحذف حقول LlmRequest التي لم تعد مستخدمة. ويضيف أيضًا دعمًا لنماذج منها DeepSeek‑V4.1‑Flash وNVFP4 GLM‑5.3‑Flash وQwen3.8‑Flash‑Next.

لماذا يهم

على المطورين الذين يستخدمون TensorRT‑LLM تحديث شيفراتهم لتتوافق مع واجهة API الجديدة لذاكرة KV المؤقتة، وإلا فلن تبدأ تطبيقاتهم.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.