# 开源工具 Jevstiller 可在本地运行 Jev 查询

> 这款社区工具会在设备上创建一个小型模型，处理常见的 Jev 请求，从而降低 token 成本和延迟。

Oossa · 2026-09-29 · https://oossa.com/zh/open-source-jevstiller-lets-you-run-jev-queries-locally

Jevstiller 是一个开源项目，可在你自己的设备上构建一个微型本地模型，用来回答日常 Jev 查询。这个本地模型从 Jev 的回复中学习，只会将无法确定的请求转发给 Jev 云服务。开发者表示，它能在约 15 毫秒内回答熟悉的查询，并避免每十亿个 token 42 美元的费用。他们称，该工具给出的答案与 Jev 一致的比例达 98%，其余请求则留在云端处理，以确保安全。

系统会持续抽取固定比例（2%）的请求与 Jev 的结果进行比对，以监控答案一致率；如果一致率下降，系统就会自行重新训练。

## 事实

- 与 Jev 的目标答案一致率：98%
- 本地响应延迟：约 15 毫秒

## 为什么重要

在本地运行 Jev，能大幅降低常见任务的 AI 使用成本，并加快响应速度。

## 来源与参考

1. [Open source tool distills Jev so you can run it locally](https://www.theregister.com/ai-and-ml/2026/09/29/open-source-tool-distills-jev-so-you-can-run-it-locally/5299856) – The Register, 2026-09-29

最后更新: 2026-09-29