Oossa

تحديث llama.cpp يضيف دعم id_slot لواجهة Anthropic API

يتيح إصدار 20 أكتوبر 2026 تثبيت الجلسات على خانات محددة في ذاكرة KV المؤقتة، لتجنّب إعادة معالجة السياق بالكامل عند استدعاء /v1/messages من Anthropic.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

في 2026‑10‑20، أصدر مشروع llama.cpp مفتوح المصدر الإصدار b11756. ويتيح التغيير للخادم تمرير الحقل id_slot من طلبات Anthropic /v1/messages إلى متن الطلب الداخلي المتوافق مع نمط OAI. وهذا يمكّن الوكيل الوسيط من ربط الجلسة بخانة محددة في ذاكرة KV المؤقتة، ما يمنع النموذج من الاضطرار إلى إعادة ملء سياقه في كل مرة. ويؤكد اختبار جديد أن الطلبات التي تتضمن id_slot تُعالَج باستخدام الخانة الصحيحة.

لماذا يهم

يمكن للمطورين الذين يستخدمون llama.cpp مع واجهات متوافقة مع Anthropic تسريع جلسات الدردشة عبر تجنّب إعادة تحميل الذاكرة المؤقتة المكلفة.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.