Zeyu Yang liderliğindeki ekip, 14 Ekim 2026’da yayımladığı makalede, 86 açık ağırlıklı büyük dil modelinin (LLM) altı donanım platformunda yedi kıyaslama testini çalıştırırken ne kadar elektrik tükettiğini ölçtü. Çalışma, yapılandırmaların çoğunun gerekenden çok daha fazla enerji harcadığını gösteriyor: Medyan tüketim en verimli seçeneklerin 2,6 ila 4,8 katı; uç örneklerdeyse bu fark 27 kata kadar çıkıyor. Akıl yürütme adımları eklemek enerji tüketimini yaklaşık 3,7 kat artırırken düşük hassasiyetli FP8 aritmetiği kullanmak, puanlarda çok az kayıpla tüketimi yaklaşık %25 azaltıyor.
Neden önemli
Geliştiriciler enerji açısından daha verimli LLM yapılandırmaları seçerek işletme maliyetlerini ve karbon ayak izlerini azaltabilir.
