Zeyu Yang领衔的团队于2026年10月14日发表论文,测量了86款开放权重大语言模型(LLM)在六种硬件平台上运行七项基准测试时的耗电量。研究显示,大多数配置的能耗远超实际所需:中位数高出2.6至4.8倍,极端情况下最高达到27倍。增加推理步骤会使能耗提高约3.7倍,而采用低精度FP8运算则可在几乎不影响得分的情况下,将能耗降低约25%。
为什么重要
开发者可以通过选择能效更高的大模型配置,降低运营成本和碳足迹。
研究人员发现,许多大模型配置的能耗是最高效配置的2.6–4.8倍,部分配置甚至高达27倍。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
Zeyu Yang领衔的团队于2026年10月14日发表论文,测量了86款开放权重大语言模型(LLM)在六种硬件平台上运行七项基准测试时的耗电量。研究显示,大多数配置的能耗远超实际所需:中位数高出2.6至4.8倍,极端情况下最高达到27倍。增加推理步骤会使能耗提高约3.7倍,而采用低精度FP8运算则可在几乎不影响得分的情况下,将能耗降低约25%。
开发者可以通过选择能效更高的大模型配置,降低运营成本和碳足迹。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。