Oossa

86のオープンウェイトLLM、ベンチマーク実行時の消費電力を調査

多くの構成は最も効率的なものより2.6〜4.8倍の電力を消費し、一部では27倍に達することが分かった。

短信著者: Oossa公開日: 1 分で読める

Zeyu Yang氏率いる研究チームは2026年10月14日、6種類のハードウェアで7つのベンチマークを実行した際に、86種類のオープンウェイト大規模言語モデル(LLM)が消費する電力量を測定した論文を発表した。調査によると、大半の構成は必要以上に多くの電力を消費しており、中央値で2.6〜4.8倍、極端なケースでは最大27倍に達した。推論ステップを追加すると消費電力は約3.7倍になり、低精度のFP8演算を使うと、スコアをほとんど落とさずに電力を約25%削減できる。

なぜ重要か

開発者は、より電力効率の高いLLM構成を選ぶことで、運用コストと二酸化炭素排出量を抑えられる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。