تیمی به سرپرستی زِیو یانگ در ۱۴ اکتبر ۲۰۲۶ مقالهای منتشر کرد که میزان برق مصرفی ۸۶ مدل زبانی بزرگ با وزنهای باز (LLM) را هنگام اجرای هفت بنچمارک روی شش پلتفرم سختافزاری اندازهگیری میکند. این پژوهش نشان میدهد بیشتر پیکربندیها بسیار بیشتر از حد نیاز برق مصرف میکنند: بهطور میانه ۲٫۶ تا ۴٫۸ برابر بیشتر و در موارد حاد تا ۲۷ برابر. افزودن گامهای استدلال، مصرف انرژی را حدود ۳٫۷ برابر افزایش میدهد؛ درحالیکه استفاده از محاسبات کمدقت FP8 انرژی را حدود ۲۵ درصد کاهش میدهد و امتیاز را اندکی پایین میآورد.
چرا مهم است
توسعهدهندگان میتوانند با انتخاب تنظیمات کممصرفتر برای مدلهای زبانی بزرگ، هزینههای عملیاتی و ردپای کربنی را کاهش دهند.