Jevstiller پروژهای متنباز است که مدلی کوچک و محلی میسازد تا درخواستهای معمول Jev را روی سختافزار خودتان پاسخ دهد. این مدل محلی از پاسخهای Jev یاد میگیرد و فقط درخواستهایی را که دربارهشان مطمئن نیست به سرویس ابری Jev میفرستد. سازندگانش میگویند این ابزار میتواند در حدود ۱۵ میلیثانیه به درخواستهای آشنا پاسخ دهد و از پرداخت هزینه ۴۲ دلاری بهازای هر یک میلیارد توکن جلوگیری کند. به ادعای آنها، پاسخهای این ابزار در ۹۸ درصد مواقع با پاسخهای Jev مطابقت دارد و برای حفظ ایمنی، باقی ترافیک در فضای ابری پردازش میشود.
این سیستم برای بررسی میزان مطابقت، پیوسته ۲ درصد ثابتی از درخواستها را با Jev میسنجد و اگر این میزان کاهش یابد، مدل را دوباره آموزش میدهد.
چرا مهم است
اجرای محلی Jev میتواند هزینه استفاده از هوش مصنوعی را بهشدت کاهش دهد و پاسخگویی به کارهای رایج را سریعتر کند.
