# نقل KV بالدفع يقلّل زمن ظهور أول رمز في vLLM

> توضح AWS أن وضع الدفع الجديد قد يسرّع ظهور أول رمز حتى ثلاثة أضعاف، ويقلّل زمن كل رمز بنسبة 30% لنموذج Qwen3‑32B.

Oossa · 2026-10-19 · https://oossa.com/ar/push-based-kv-transfer-cuts-first-token-latency-in-vllm

يوفّر محرك vLLM الآن نقلًا لذاكرة التخزين المؤقت للمفاتيح والقيم (KV) بأسلوب الدفع. وينقل هذا الأسلوب إعداد عملية نقل البيانات إلى مرحلة الملء المسبق، ما يتيح لمثيل فك الترميز البدء في توليد الرموز بسرعة أكبر. وفي اختبار معياري على إعداد يضم مثيلًا واحدًا للملء المسبق وآخر لفك الترميز (1P1D)، باستخدام مثيلات EC2 P5en ومحوّل AWS Elastic Fabric Adapter، خفّض وضع الدفع زمن ظهور أول رمز حتى 3 أضعاف، وقلّل الزمن لكل رمز مُخرَج بنحو 30% مقارنةً بوضع السحب الافتراضي.

## الحقائق

- انخفاض زمن ظهور أول رمز (TTFT) حتى 3 أضعاف، وانخفاض الزمن لكل رمز (TPOT) بنسبة 30% على نموذج Qwen3‑32B
- أُجري الاختبار على مثيلات EC2 P5en المزودة بوحدات GPU، مع EFA، في 2026‑10‑19

## لماذا يهم

قد يستفيد المطوّرون الذين يشغّلون خدمات نماذج لغوية كبيرة عالية الإنتاجية من استجابات أسرع بوضوح، لا سيما عند التعامل مع عدد كبير من المطالبات الطويلة دفعة واحدة.

## المصادر والمراجع

1. [Push-based KV transfer to improve TTFT and TPOT for disaggregated inference in vLLM](https://aws.amazon.com/blogs/machine-learning/push-based-kv-transfer-to-improve-ttft-and-tpot-for-disaggregated-inference-in-vllm/) – AWS, 2026-10-19

آخر تحديث: 2026-10-19