Команда под руководством Зею Яна опубликовала 14 октября 2026 года исследование, в котором измерила, сколько электроэнергии потребляют 86 больших языковых моделей (LLM) с открытыми весами при выполнении семи тестов на шести аппаратных платформах. Результаты показывают, что большинство конфигураций расходуют значительно больше энергии, чем необходимо: в среднем в 2,6–4,8 раза больше, а в крайних случаях — до 27 раз. Добавление шагов рассуждения увеличивает энергопотребление примерно в 3,7 раза, тогда как низкоточная арифметика FP8 снижает его примерно на 25% почти без потери качества результатов.
Почему это важно
Разработчики могут сократить эксплуатационные расходы и углеродный след, выбирая более энергоэффективные конфигурации LLM.
