OossaAI तेज़ी से विकसित हो रहा है। हम इसे आसान भाषा में समझाते हैं।

Ollama 0.35 में Jev-शैली का डिसीजन मॉडल API

Ollama 0.35 में तेज़, लोकल डिसीजन मॉडल के लिए /v1/systemone एंडपॉइंट आया है। इसके साथ Nimble 9B और Tev1 के वेरिएंट समेत तीन मॉडल लॉन्च हुए हैं।

संक्षिप्तOossa1 मिनट पढ़ना

Ollama 0.35 अब Jev-शैली के डिसीजन मॉडल API को सपोर्ट करता है। यूज़र नए /v1/systemone एंडपॉइंट पर टेक्स्ट स्टेट और नाम वाले सवालों का एक सेट भेजकर एक ही अनुरोध में व्यवस्थित जवाब पा सकते हैं। शुरुआत में तीन मॉडल उपलब्ध हैं: Nimble 9B, Tev1 4B और Tev1 0.8B।

लोकल तौर पर चलाने से नेटवर्क की देरी नहीं होती; M5 Max MacBook पर Nimble 9B हर डिसीजन में औसतन 91 ms लेता है। ये मॉडल curl या TypeSafe के Python SDK के साथ काम करते हैं।

यह क्यों मायने रखता है

लोकल डिसीजन मॉडल टिकटों को सही जगह भेजने या कंटेंट मॉडरेशन जैसे कामों के लिए तुरंत और कम लागत में वर्गीकरण करते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।

स्रोत और संदर्भ

1 स्रोत

अंतिम अपडेट: ·Markdown·llms.txt