Oossa

ORL ने डिफ्यूज़न भाषा मॉडल की रफ़्तार 7× तक बढ़ाई

नया ORL फ्रेमवर्क 4B डिफ्यूज़न मॉडल को गुणवत्ता बनाए रखते हुए तेज़ी से डिकोड करने में मदद करता है। एक GPU पर इसकी गति 5,000 से अधिक टोकन प्रति सेकंड तक पहुंची।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

Yifan Yu के नेतृत्व में शोधकर्ताओं ने डिफ्यूज़न भाषा मॉडल के लिए ORL पेश किया है। यह ऑन-पॉलिसी रेज़िड्युअल लर्निंग का तरीका है। ORL मॉडल को उसके अपने अनुमान-पथों पर प्रशिक्षित करता है और आउटपुट को अधिक सटीक बनाने के लिए एंट्रॉपी-कॉन्ट्रैक्शन लॉस जोड़ता है। Qwen3‑4B से रूपांतरित 4 B मॉडल पर ORL ने प्रति फ़ॉरवर्ड टोकन की संख्या 6.2× तक और कुल थ्रूपुट करीब 6.9× बढ़ाया। इसकी गुणवत्ता ऑटोरेग्रेसिव स्पेक्युलेशन के बराबर या उससे बेहतर रही। इसी तकनीक से LLaDA‑2.1‑mini की गति 1.5× बढ़ी, जबकि DiffusionGemma को मामूली सुधार मिला।

यह क्यों मायने रखता है

डेवलपर उपभोक्ता-स्तर के GPU पर तेज़ और उच्च-गुणवत्ता वाला टेक्स्ट जनरेशन चला सकते हैं। इससे चैटबॉट जैसे ऐप्लिकेशन की लागत और प्रतिक्रिया में लगने वाला समय घट सकता है।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।