Jevstiller مشروع مفتوح المصدر يبني نموذجًا محليًا صغيرًا للإجابة عن استعلامات Jev الروتينية على أجهزتك. يتعلم النموذج المحلي من ردود Jev، ولا يحيل إلى الخدمة السحابية لـ Jev إلا الطلبات التي لا يكون واثقًا منها. ويقول مبتكروه إنه يستطيع الإجابة عن الاستعلامات المألوفة في نحو 15 مللي ثانية، وتجنب رسم قدره 42 دولارًا لكل مليار رمز. ويزعمون أن الأداة تطابق إجابات Jev في 98% من الحالات، مع إبقاء بقية حركة الطلبات في السحابة حفاظًا على السلامة.
يراجع النظام باستمرار نسبة ثابتة تبلغ 2% من الطلبات بمقارنتها مع Jev، للحفاظ على معدل التطابق، ويعيد تدريب نفسه عندما ينخفض هذا المعدل.
لماذا يهم
يمكن لتشغيل Jev محليًا أن يخفض تكاليف استخدام الذكاء الاصطناعي بدرجة كبيرة ويسرّع أوقات الاستجابة للمهام الشائعة.
