Oossa

86 ओपन-वेट LLM की ऊर्जा खपत का अध्ययन

शोधकर्ताओं ने पाया कि कई LLM सेटअप सबसे दक्ष विकल्पों से 2.6–4.8× अधिक ऊर्जा खर्च करते हैं; कुछ में यह खपत 27× तक है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

Zeyu Yang के नेतृत्व वाली टीम ने 14 Oct, 2026 को एक शोधपत्र प्रकाशित किया। इसमें छह हार्डवेयर प्लेटफ़ॉर्म पर सात बेंचमार्क चलाते समय 86 ओपन-वेट लार्ज लैंग्वेज मॉडल (LLM) की बिजली खपत मापी गई। अध्ययन के मुताबिक, ज़्यादातर कॉन्फ़िगरेशन ज़रूरत से कहीं अधिक बिजली खर्च करते हैं—मध्यिका के आधार पर 2.6 से 4.8 गुना अधिक, जबकि सबसे चरम मामलों में यह अंतर 27 गुना तक है। रीजनिंग के चरण जोड़ने से ऊर्जा खपत लगभग 3.7× बढ़ जाती है, जबकि कम-प्रिसिजन FP8 अंकगणित का इस्तेमाल करने से स्कोर में मामूली कमी के साथ ऊर्जा खपत करीब 25% घट जाती है।

यह क्यों मायने रखता है

ज़्यादा ऊर्जा-कुशल LLM सेटअप चुनकर डेवलपर संचालन लागत और कार्बन फ़ुटप्रिंट घटा सकते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।