Oossa

Perplexity और NVIDIA ने JOLT लर्निंग मेथड पेश किया

पोस्ट-ट्रेनिंग की इस नई तकनीक में मॉडल खुद को सिखाता है और MATH बेंचमार्क पर 6.5× कम टोकन इस्तेमाल करता है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

Perplexity और NVIDIA के शोधकर्ताओं ने JOLT पेश किया है—यह शिक्षक और विद्यार्थी की संयुक्त भूमिका वाला रीइन्फोर्समेंट लर्निंग मेथड है। इसमें मुख्य ट्रेनिंग चरण के बाद एक ही मॉडल को शिक्षक और विद्यार्थी, दोनों की तरह काम करने के लिए प्रशिक्षित किया जाता है। MATH बेंचमार्क पर JOLT ने GRPO मेथड जितनी ही सटीकता हासिल की, जबकि ट्रेनिंग में 6.5 गुना कम टोकन इस्तेमाल किए। यह नतीजा दिखाता है कि मॉडल का आर्किटेक्चर बदले बिना उसकी दक्षता बेहतर की जा सकती है।

यह क्यों मायने रखता है

इससे शोधकर्ता कम खर्च में मॉडल को फाइन-ट्यून कर सकते हैं और सीमित कंप्यूट बजट वाली लैब के लिए उच्च प्रदर्शन वाली गणितीय तर्क क्षमता हासिल करना आसान हो सकता है।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।