Oossa

विशेष प्रोग्राम के साथ छोटा 8B मॉडल बड़े प्रतिद्वंद्वियों के बराबर

PLVR नाम की नई विधि 8 अरब पैरामीटर वाले मॉडल को टेलीकॉम टूल-यूज़ कार्यों में 90% से अधिक सटीकता हासिल करने देती है और बड़े मॉडलों से उसका अंतर घटाती है।

लेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

Pankaj Patel · Unsplash

शोधकर्ताओं ने PLVR नाम की एक तकनीक पेश की है, जो शिक्षक मॉडल के चरण-दर-चरण ट्रेस को दोबारा इस्तेमाल किए जा सकने वाले प्रोग्राम में बदलती है। यह प्रोग्राम एक छोटे, स्थिर भाषा मॉडल—यहां तक कि 8 अरब पैरामीटर वाले मॉडल—के साथ चलता है और उसे काम करने के तरीके बताता है। टेलीकॉम टेस्ट सेट पर PLVR के साथ इस्तेमाल करने पर 8B Granite‑4.2 मॉडल की सटीकता 43% से बढ़कर 91.2% हो जाती है।

PLVR कैसे काम करता है

सबसे पहले, शिक्षक मॉडल Kimi‑K3 टूल-यूज़ से जुड़ी समस्याएं हल करते समय अपने तर्क के ट्रेस दर्ज करता है। PLVR इन ट्रेस को समूहों में बांटकर बार-बार होने वाली प्रक्रियाओं की पहचान करता है। हर प्रक्रिया के लिए एक “फ्रंटियर” मॉडल छोटा, टाइप्ड प्रिमिटिव लिखता है, जिसे छोटा स्थिर मॉडल चला सकता है। इसके बाद सिस्टम A* सर्च के जरिए प्रिमिटिव को जोड़ता है और सही अंतिम कार्रवाई को लक्ष्य बनाता है। अनुमान के दौरान प्रोग्राम या तो छात्र मॉडल को अपनाने के लिए चरण-दर-चरण तर्क देता है, या उसके सुझाए हर टूल एक्शन को भेजे जाने से पहले जांचकर सुधारता है।

अलग-अलग क्षेत्रों में नतीजे

एक ही PLVR प्रोग्राम को तीन Nemotron बेस मॉडल और Granite‑4.2‑8B के साथ तीन बेंचमार्क—टेलीकॉम, रिटेल और LiveMCPBench (टूल इस्तेमाल करने की प्रक्रियाओं से जुड़ा बेंचमार्क)—पर आजमाया गया। टेलीकॉम पर हर Nemotron मॉडल ने 93.3‑94.4% सटीकता हासिल की, जबकि PLVR के साथ 8B मॉडल 91.2% तक पहुंचा—यानी कुछ ही अंक पीछे। रिटेल और LiveMCPBench पर PLVR प्रोग्राम प्रकाशित सर्वोत्तम नतीजों के मुकाबले प्रतिस्पर्धी रहा, हालांकि LiveMCPBench पर वह 3‑13 अंक पीछे था। इस तरीके ने बेस मॉडलों के प्रदर्शन के बीच का अंतर भी औसतन करीब सात अंक से घटाकर करीब दो अंक कर दिया।

यह क्यों मायने रखता है

टूल-यूज़ असिस्टेंट बनाने वाले डेवलपरों के लिए, PLVR दिखाता है कि स्पष्ट प्रोग्राम के मार्गदर्शन में अपेक्षाकृत किफायती 8B मॉडल भी बहुत बड़े मॉडलों के करीब प्रदर्शन कर सकता है। इससे कंप्यूटिंग की लागत घट सकती है और ऐसे असिस्टेंट अधिक लोगों के लिए सुलभ हो सकते हैं। हालांकि, यह तरीका अब भी उच्च गुणवत्ता वाले शिक्षक ट्रेस पर निर्भर है और अलग-अलग क्षेत्रों में इसका प्रदर्शन बदल सकता है।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।