Oossaهوش مصنوعی به‌سرعت پیشرفت می‌کند. ما آن را ساده توضیح می‌دهیم.

Ollama 0.35 API مدل‌های تصمیم‌گیری Jev را افزود

Ollama 0.35 نقطه پایانی /v1/systemone را برای مدل‌های تصمیم‌گیری سریع و محلی معرفی کرده و با سه مدل، از جمله Nimble 9B و نسخه‌های Tev1، عرضه شده است.

خبر کوتاهOossa1 دقیقه مطالعه

Ollama 0.35 حالا از API مدل‌های تصمیم‌گیری به سبک Jev پشتیبانی می‌کند. کاربران می‌توانند نقطه پایانی جدید /v1/systemone را فراخوانی کنند، یک وضعیت متنی و مجموعه‌ای از پرسش‌های نام‌گذاری‌شده بفرستند و در یک درخواست، پاسخ‌هایی ساختاریافته دریافت کنند. سه مدل از همان ابتدا در دسترس‌اند: Nimble 9B، Tev1 4B و Tev1 0.8B.

اجرای محلی، تأخیر شبکه را از بین می‌برد؛ میانگین زمان هر تصمیم برای Nimble 9B روی MacBook مجهز به M5 Max برابر با ۹۱ میلی‌ثانیه است. این مدل‌ها با curl یا SDK پایتون TypeSafe کار می‌کنند.

چرا مهم است

مدل‌های تصمیم‌گیری محلی، طبقه‌بندی‌های فوری و کم‌هزینه را برای کارهایی مثل ارجاع تیکت‌ها یا نظارت بر محتوا فراهم می‌کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.

منابع و ارجاع‌ها

1 منبع

آخرین به‌روزرسانی: ·Markdown·llms.txt