مايكروسوفت وبيركلي تطلقان TokenEconomizer

أطلقت Microsoft Research وجامعة كاليفورنيا في بيركلي TokenEconomizer، وهي إضافة مفتوحة المصدر تهدف إلى خفض استهلاك وكلاء البرمجة للرموز. وذكرت MarkTechPost أنها تتعلم من الجلسات السابقة، وأنها خفّضت تكاليف الرموز بنسبة تتراوح بين 18.4% و30.9% على SWE-Bench. ويقول الباحثون إن الإضافة تعمل من دون تعديل الوكيل نفسه.

الرموز أجزاء من النص يعالجها نظام الذكاء الاصطناعي. وقد يؤدي استخدام عدد أقل منها إلى تقليل مقدار استخدام النموذج الذي يحتاج إليه الوكيل، لكن النسب المذكورة تتعلق بتكاليف الرموز، لا بمبلغ محدد بالدولار. كما لا تعني هذه الأرقام أن جميع المستخدمين سيحققون الوفورات نفسها؛ فالنتيجة مرتبطة بـSWE-Bench، ولا توضح التفاصيل المتاحة كيف تفاوتت التخفيضات بين المهام أو إعدادات الوكلاء.

الفكرة الأساسية المطروحة هنا هي أن الإضافة تتعلم من الجلسات السابقة. فبدلاً من الحاجة إلى وكيل برمجة مختلف، تُقدَّم TokenEconomizer كإضافة تستخدم سجل الجلسات لزيادة كفاءة استخدام الرموز. وقد يهم ذلك الفرق التي تشغّل وكلاء البرمجة مراراً، لكن الوصف لا يوضح المعلومات التي تخزنها، أو كيفية تحديد ما تعيد استخدامه، أو ما إذا كان بإمكان المستخدمين التحكم في هذه الخيارات.

ما الذي لا يزال غير واضح؟

النطاق المعلن واعد بوصفه مؤشراً إلى إمكانية توفير الرموز، لكن التفاصيل اللازمة لتقييمه غير متاحة. لا تذكر MarkTechPost النموذج أو الوكيل الذي خضع للاختبار، أو إعدادات الاختبار المعياري، أو عدد مرات التشغيل، أو المقارنة بطرق أخرى لتوفير الرموز. كما لا توضح ما إذا كانت النتيجة قد خضعت لتحقق مستقل. ومن دون هذه التفاصيل، ينبغي التعامل مع النسبة على أنها نتيجة مُعلنة في اختبار معياري واحد، لا ضماناً لأعمال برمجة أخرى.

تُوصف TokenEconomizer بأنها مفتوحة المصدر، لكن ملخص الإعلان لا يحدد مستودعاً برمجياً أو ترخيصاً أو الوكلاء المدعومين أو متطلبات الإعداد. ومن شأن هذه التفاصيل أن توضح للمطورين مدى سهولة تجربتها ومدى توافقها مع أدواتهم. وحتى الآن، تقتصر النقطة المؤكدة على أن Microsoft Research وجامعة كاليفورنيا في بيركلي أطلقتا إضافة تقولان إنها تستطيع خفض تكاليف الرموز لوكلاء البرمجة على SWE-Bench من دون تعديل الوكيل.