Ollama 0.35 حالا از API مدلهای تصمیمگیری به سبک Jev پشتیبانی میکند. کاربران میتوانند نقطه پایانی جدید /v1/systemone را فراخوانی کنند، یک وضعیت متنی و مجموعهای از پرسشهای نامگذاریشده بفرستند و در یک درخواست، پاسخهایی ساختاریافته دریافت کنند. سه مدل از همان ابتدا در دسترساند: Nimble 9B، Tev1 4B و Tev1 0.8B.
اجرای محلی، تأخیر شبکه را از بین میبرد؛ میانگین زمان هر تصمیم برای Nimble 9B روی MacBook مجهز به M5 Max برابر با ۹۱ میلیثانیه است. این مدلها با curl یا SDK پایتون TypeSafe کار میکنند.
چرا مهم است
مدلهای تصمیمگیری محلی، طبقهبندیهای فوری و کمهزینه را برای کارهایی مثل ارجاع تیکتها یا نظارت بر محتوا فراهم میکنند.