# AWS تخفّض زمن أول رمز للوكلاء عبر نقل KV ثنائي الاتجاه

> تتيح مشاركة ذاكرة التخزين المؤقت للمفاتيح والقيم ثنائية الاتجاه على وحدات GPU من طراز EC2 P5en خفض TTFT بما يصل إلى 3.3× في المحادثات الطويلة.

Oossa · 2026-10-19 · https://oossa.com/ar/aws-cuts-first-token-latency-for-multi-turn-ai-agents-with-bi-directional-kv-tra

أضافت AWS نقل ذاكرة التخزين المؤقت لـKV ثنائي الاتجاه إلى حزمة تقديم النماذج vLLM. ويتيح هذا التغيير لعقدة فك الترميز إعادة كتل KV التي سبق احتسابها إلى عقدة التمهيد، لاستخدامها في الجولة التالية وتجنّب تكرار العمل. وفي اختبارات إعداد بعقدة تمهيد واحدة وعقدة فك ترميز واحدة (1P1D)، باستخدام مثيلات EC2 P5en المزودة بـEFA، انخفض زمن الوصول إلى الرمز الأول بما يصل إلى 1.6× في Qwen3‑32B، و3.3× في GLM‑5‑FP8. وتعمل الميزة على مجموعات Trainium وGPU، ويمكن ضبطها عبر TTL وعتبات إعادة الاحتساب.

## الحقائق

- أُجريت الاختبارات في 19 أكتوبر 2026 – "Mon Oct 19 2026 18:03:23 GMT+0200"
- انخفض TTFT بما يصل إلى 1.6× في Qwen3‑32B، و3.3× في GLM‑5‑FP8 على مثيلات EC2 P5en

## لماذا يهم

يمكن لمطوري المساعدات الحوارية الحفاظ على سرعة الاستجابة حتى مع ازدياد سجلات المحادثات، ما يساعد على خفض تكلفة استخدام المسرّعات.

## المصادر والمراجع

1. [Improve TTFT for multi-turn agentic workloads with bi-directional KV transfer in vLLM](https://aws.amazon.com/blogs/machine-learning/improve-ttft-for-multi-turn-agentic-workloads-with-bi-directional-kv-transfer-in-vllm/) – AWS, 2026-10-19

آخر تحديث: 2026-10-19