Un gruppo guidato da Zeyu Yang ha pubblicato il 14 ottobre 2026 uno studio che misura quanta elettricità consumano 86 modelli linguistici di grandi dimensioni (LLM) open-weight nell’esecuzione di sette benchmark su sei piattaforme hardware. I risultati mostrano che la maggior parte delle configurazioni consuma molta più energia del necessario: da 2,6 a 4,8 volte in più, secondo la mediana, e fino a 27 volte in più nei casi estremi. Aggiungere passaggi di ragionamento aumenta i consumi di circa 3,7 volte, mentre l’uso dell’aritmetica FP8 a bassa precisione riduce l’energia di circa il 25%, con una perdita di punteggio minima.
Perché conta
Gli sviluppatori possono ridurre i costi operativi e l’impronta di carbonio scegliendo configurazioni di LLM più efficienti dal punto di vista energetico.
