# ओपन-सोर्स Jevstiller से Jev क्वेरी स्थानीय रूप से चलाएं

> यह कम्युनिटी टूल डिवाइस पर एक छोटा मॉडल बनाता है, जो आम Jev अनुरोध संभालता है और टोकन लागत व जवाब में देरी घटाता है।

Oossa · 2026-09-29 · https://oossa.com/hi/open-source-jevstiller-lets-you-run-jev-queries-locally

Jevstiller एक ओपन-सोर्स प्रोजेक्ट है, जो आपके अपने हार्डवेयर पर आम Jev क्वेरी के जवाब देने के लिए एक छोटा स्थानीय मॉडल बनाता है। यह मॉडल Jev के जवाबों से सीखता है और जिन अनुरोधों को लेकर उसे भरोसा नहीं होता, उन्हें ही Jev की क्लाउड सेवा पर भेजता है। इसके निर्माताओं का कहना है कि यह आम अनुरोधों का जवाब करीब 15 ms में दे सकता है और प्रति अरब टोकन $42 का शुल्क बचा सकता है। उनका दावा है कि यह टूल 98 % मामलों में Jev के जवाबों से मेल खाता है, जबकि सुरक्षा के लिए बाकी ट्रैफिक क्लाउड पर ही रखा जाता है।

सहमति दर पर नज़र रखने के लिए सिस्टम लगातार 2 % अनुरोधों का Jev के जवाबों से मिलान करता है और दर घटने पर खुद को फिर से प्रशिक्षित करता है।

## तथ्य

- Jev के साथ लक्ष्य सहमति: 98 %
- स्थानीय जवाब देने में लगने वाला समय: ~15 ms

## यह क्यों मायने रखता है

आम कामों के लिए Jev को स्थानीय रूप से चलाने से AI इस्तेमाल की लागत काफी घट सकती है और जवाब तेज़ मिल सकते हैं।

## स्रोत और संदर्भ

1. [Open source tool distills Jev so you can run it locally](https://www.theregister.com/ai-and-ml/2026/09/29/open-source-tool-distills-jev-so-you-can-run-it-locally/5299856) – The Register, 2026-09-29

अंतिम अपडेट: 2026-09-29