Oossa

پژوهش مصرف انرژی ۸۶ مدل زبانی متن‌باز را سنجید

پژوهشگران دریافتند بسیاری از تنظیمات مدل‌های زبانی بزرگ ۲٫۶ تا ۴٫۸ برابر بیشتر از گزینه‌های بهینه انرژی مصرف می‌کنند؛ در برخی موارد این میزان به ۲۷ برابر می‌رسد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیمی به سرپرستی زِیو یانگ در ۱۴ اکتبر ۲۰۲۶ مقاله‌ای منتشر کرد که میزان برق مصرفی ۸۶ مدل زبانی بزرگ با وزن‌های باز (LLM) را هنگام اجرای هفت بنچمارک روی شش پلتفرم سخت‌افزاری اندازه‌گیری می‌کند. این پژوهش نشان می‌دهد بیشتر پیکربندی‌ها بسیار بیشتر از حد نیاز برق مصرف می‌کنند: به‌طور میانه ۲٫۶ تا ۴٫۸ برابر بیشتر و در موارد حاد تا ۲۷ برابر. افزودن گام‌های استدلال، مصرف انرژی را حدود ۳٫۷ برابر افزایش می‌دهد؛ درحالی‌که استفاده از محاسبات کم‌دقت FP8 انرژی را حدود ۲۵ درصد کاهش می‌دهد و امتیاز را اندکی پایین می‌آورد.

چرا مهم است

توسعه‌دهندگان می‌توانند با انتخاب تنظیمات کم‌مصرف‌تر برای مدل‌های زبانی بزرگ، هزینه‌های عملیاتی و ردپای کربنی را کاهش دهند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.