このコミュニティ製ツールは、よくあるJevへの問い合わせに対応する小型のオンデバイスモデルを作成し、トークン費用と遅延を削減する。
短信Oossa1 分で読める
Jevstillerは、日常的なJevへの問い合わせに手元のハードウェアで答える、小型のローカルモデルを構築するオープンソースプロジェクトだ。このモデルはJevの回答から学習し、判断に迷う問い合わせだけをJevのクラウドサービスに転送する。開発者によると、よくある問い合わせには約15ミリ秒で回答でき、10億トークンあたり42ドルの料金も回避できるという。また、Jevの回答と98％の割合で一致し、残りの通信は安全性を確保するためクラウドに送るとしている。
システムは、回答の一致率を確認するため、全リクエストのうち一定の2％を継続的にJevと照合する。一致率が下がると、自動で再学習する。
Jevをローカルで実行すれば、よくあるタスクのAI利用コストを大幅に抑え、応答も速くできる。
モデル
OpenAIの新モデルGPT‑6.1 Solは、100万トークンあたり2～10ドルの料金を据え置きながら性能向上をうたい、AnthropicのClaudeやDeepSeekのモデルを下回る価格を打ち出した。
モデル
新モデルv4とv4 Turboの料金は、1,000文字あたりそれぞれ0.08ドル、0.04ドル。10月12日までは0.022ドル、0.011ドルに割引される。
モデル
Oracleの新しいFusion Clawランタイムにより、Fusionアプリは人員配置や会計など複数段階の業務を処理できる。AIが推論を担い、計算はモデルの外部で行う。
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。
| # | 出典 | 媒体 | 日付 | 要点 |
|---|---|---|---|---|
| 1 | Open source tool distills Jev so you can run it locally ↗ | The Register | 2026/09/29 | Jevstiller targets 98% agreement by learning familiar requests on your hardware while sending uncertain and audited queries upstream |
1 件の出典
