# نظام AKV من Tsinghua يدير ذاكرة الوكلاء عبر الذاكرة المؤقتة

> يتيح AKV للوكلاء إسقاط أجزاء من السياق المخزّن وإعادة ترتيب ما تبقّى من دون إعادة كتابة سجل المحادثة. ويقول مطوّروه إن الاختبارات أظهرت خفضًا للتكاليف وتسريعًا في تقديم الخدمة.

Oossa · 2026-10-26 · https://oossa.com/ar/tsinghua-s-akv-manages-llm-agent-memory-through-its-cache

أطلق باحثون في Tsinghua نظام AKV لإدارة الذاكرة المؤقتة لوكلاء النماذج اللغوية الكبيرة، وأتاحوا شفرته مفتوحة المصدر على GitHub. فبدلًا من اختصار محادثة الوكيل أو تلخيصها عندما تطول، يتيح له AKV إسقاط معلومات محددة مخزّنة وإعادة ترتيب ما تبقّى. ويعتمد المشروع على SGLang، وهو برنامج لتشغيل النماذج اللغوية، ويضم مكوّنًا لاختيار عمليات الذاكرة المؤقتة ونظامًا لتقديم الخدمة ينفّذها.

وتكتسب هذه الآلية أهميتها لأن سجل الوكيل قد يضم ملاحظات كثيرة وطلبات إلى الأدوات ونتائجها. والاحتفاظ بكل ذلك في السياق النشط للنموذج يتطلب مساحة تخزين وقدرة معالجة. لكن تعديل الرسائل السابقة قد يدفع النظام إلى إعادة حساب السياق اللاحق، في خطوة تُعرف باسم إعادة الملء المسبق. وتقول ورقة AKV البحثية إن هذه العملية قد تكون مكلفة، فيما قد يؤدي حذف قدر مفرط من سجل المحادثة إلى تراجع دقة المهام. وبدلًا من ذلك، يُبقي AKV سجل المحادثة كما هو، ويغيّر الأجزاء التي ينتبه إليها النموذج من ذاكرة التخزين المؤقت للمفاتيح والقيم.

## كيف يعمل AKV؟

يتيح AKV للوكلاء إجراء عمليتين على الذاكرة المؤقتة. تستبعد عملية «الإسقاط» معلومات محددة من الانتباه في المستقبل، فيما تضغط عملية «إعادة الترتيب» مواضع المعلومات التي يجري الاحتفاظ بها. وفي المثال الذي يورده المشروع، يحتفظ النظام بأحدث نتيجة من إحدى الأدوات، ويسقط نتيجة أقدم بعد وصول الأحدث، ثم يعيد ترتيب الذاكرة المؤقتة المتبقية. وتظل الرسائل الأصلية ضمن الطلب، بينما ينفّذ خادم AKV تعليمات الذاكرة المؤقتة. ووفقًا للورقة البحثية، يجنّب ذلك إعادة الملء المسبق للسياق المحتفَظ به.

وعلى النظام أيضًا مراعاة التغييرات التي أُجريت على ذاكرته المؤقتة. وتشير الورقة إلى أن التسلسل نفسه من رموز المحادثة قد يؤدي إلى حالات مختلفة للذاكرة المؤقتة، إذا استخدم الوكيل عمليات مختلفة. لذلك، لا يمكن للخادم إعادة استخدام المعلومات المخزّنة بأمان بالاعتماد على تطابق بادئة المحادثة وحده. ويجمع AKV بين سياسة تعمل على جانب الوكيل وخادم قائم على SGLang يدير إعادة استخدام الذاكرة المؤقتة وإزالة محتوياتها واستعادتها. ويقول المشروع إن الخادم يستخدم واجهة عديمة الحالة ومتوافقة مع واجهات برمجة التطبيقات الحالية لتقديم الخدمة، مع إدارة حالة الذاكرة المؤقتة داخليًا.

## ماذا أظهرت الاختبارات؟

في تجارب الباحثين، رفعت سياسة الإسقاط المتتابع لردود الأدوات متوسط نتائج الاختبارات المعيارية بمقدار 1.7 نقطة، وخفّضت متوسط التكلفة بنسبة 27.7% مقارنة بالتلخيص الذي يبدأ عند تجاوز عتبة محددة. وتفيد الورقة أيضًا بتحقيق إنتاجية للمخرجات تصل إلى 1.2 مرة، وتسريع زمن الاستجابة عند المئين 95 بمقدار 1.5 مرة. كما خفّضت طريقة منفصلة لتحسين سياسات الذاكرة المؤقتة التكلفة تدريجيًا بنسبة 7.1% مقارنة بسياسات صممها خبراء. وهذه نتائج أوردها مؤلفو الورقة؛ ولا تتضمن المواد المقدّمة تقارير عن إعادة تحقق مستقلة منها.

وتشرح إرشادات GitHub كيفية تثبيت AKV باستخدام Rust وCargo وPython 3.12. ويعرض مثال البدء السريع تشغيل GPT-OSS-120B عبر AKV وإرسال الطلبات بتنسيق متوافق مع واجهة إكمال المحادثات من OpenAI. كما يشرح المشروع دمج سياسته في بيئة تشغيل وكيل قائمة، عبر معالجة الطلبات قبل إرسالها إلى الخادم. وتشمل النتائج المعلنة أربعة اختبارات معيارية للوكلاء، لكن المواد المقدّمة لا تذكر أسماءها ولا توفر تفاصيل كافية لتقدير مدى انطباق وفورات التكلفة على نماذج أو أعباء عمل أخرى.

## الحقائق

- AKV مشروع مفتوح المصدر لهندسة الذاكرة المؤقتة، مبني على SGLang.
- تفيد الورقة بتحقيق خفض متوسط التكلفة بنسبة 27.7% وزيادة نتائج الاختبارات المعيارية بمقدار 1.7 نقطة مقارنة بالتلخيص الذي يبدأ عند تجاوز عتبة محددة.
- تشمل أفضل النتائج المعلنة لـAKV زيادة إنتاجية المخرجات إلى 1.2× وتسريع زمن الاستجابة عند المئين 95 بمقدار 1.5×.
- تستخدم إرشادات البدء السريع للمشروع GPT-OSS-120B وتتطلب Python 3.12.

## لماذا يهم

يوفر AKV للفرق التي تطوّر وكلاء يستدعون الأدوات باستمرار وسيلة لإسقاط نتائج الأدوات القديمة من دون إعادة كتابة سجل المحادثة. ويقول الباحثون إن اختباراتهم أظهرت خفضًا للتكاليف، لكن تحقيق وفورات مماثلة لأي فريق يعتمد على النموذج وأعباء العمل لديه.

## المصادر والمراجع

1. [Tsinghua AI Open-Sources AKV, a Cache Engineering Server for LLM Agents on SGLang](https://www.marktechpost.com/2026/10/26/tsinghua-akv-kv-cache-engineering-llm-agents/) – MarkTechPost, 2026-10-26
2. [arXiv](https://arxiv.org/abs/2610.28577) – arXiv
3. [AKV project (thu-nics)](https://github.com/thu-nics/AKV) – AKV project (thu-nics)

آخر تحديث: 2026-10-26
