# Jevstiller запускает запросы к Jev локально

> Инструмент с открытым исходным кодом создаёт небольшую локальную модель для обработки привычных запросов к Jev, снижая расходы на токены и задержки.

Oossa · 2026-09-29 · https://oossa.com/ru/open-source-jevstiller-lets-you-run-jev-queries-locally

Jevstiller — проект с открытым исходным кодом, который создаёт небольшую локальную модель для ответов на типовые запросы к Jev прямо на вашем устройстве. Модель обучается на ответах Jev и передаёт в облачный сервис Jev только запросы, в которых не уверена. По словам создателей, на знакомые запросы она отвечает примерно за 15 мс и позволяет избежать платы в размере $42 за миллиард токенов. Они утверждают, что в 98 % случаев инструмент выдаёт ответы, совпадающие с ответами Jev, а остальные запросы для безопасности обрабатываются в облаке.

Система постоянно сверяет с Jev фиксированные 2 % запросов, чтобы контролировать долю совпадений, и переобучается, если она снижается.

## Факты

- Целевой уровень совпадения ответов с Jev: 98 %
- Задержка локального ответа: около 15 мс

## Почему это важно

Локальная работа с Jev может существенно сократить расходы на использование ИИ и ускорить ответы на типовые запросы.

## Источники и ссылки

1. [Open source tool distills Jev so you can run it locally](https://www.theregister.com/ai-and-ml/2026/09/29/open-source-tool-distills-jev-so-you-can-run-it-locally/5299856) – The Register, 2026-09-29

Обновлено: 2026-09-29
