Perplexity AI ने अपने pplx‑embed‑v2‑late मॉडल के दो नए संस्करणों की घोषणा की। छोटे संस्करण में 0.6 billion पैरामीटर हैं और इसे फोन या IoT गैजेट जैसे एज हार्डवेयर पर चलाने के लिए बनाया गया है। बड़े संस्करण में 9 billion पैरामीटर हैं और इसका लक्ष्य सर्च या रिकमेंडेशन सिस्टम के लिए उच्च गुणवत्ता वाले वेक्टर इंडेक्स तैयार करना है। दोनों मॉडल MIT लाइसेंस के तहत जारी किए गए हैं, इसलिए कोई भी इन्हें डाउनलोड करके अपने सर्वर पर होस्ट कर सकता है।
मॉडल का प्रदर्शन कैसा है
Perplexity के अपने परीक्षणों में 9 billion‑parameter मॉडल ने MADQA बेंचमार्क पर 92.4% स्कोर किया। यह सवालों के जवाब देने की सटीकता जांचने वाला मानक परीक्षण है। इसी मॉडल ने ViDoRe v3 Markdown बेंचमार्क पर 61.2% स्कोर किया, जो Markdown फ़ॉर्मैट में लिखे टेक्स्ट को संभालने की क्षमता मापता है। कंपनी का कहना है कि 0.6 billion मॉडल को तेज़ गति और कम मेमोरी इस्तेमाल के लिए अनुकूलित किया गया है, जबकि 9 billion मॉडल का ज़ोर सटीकता पर है।
यह क्यों मायने रखता है
डेवलपर अब क्लाउड सेवा की ज़रूरत के बिना सीधे फोन या छोटे डिवाइस पर हल्का एम्बेडिंग मॉडल चला सकते हैं। सटीक सर्च या रिकमेंडेशन सुविधाओं की ज़रूरत वाली बड़ी टीमें अधिक क्षमता वाले मॉडल का इस्तेमाल कर सकती हैं और अपने डेटा पर पूरा नियंत्रण रख सकती हैं, क्योंकि दोनों संस्करण ओपन-सोर्स हैं।
