연구진은 많은 LLM 구성이 가장 효율적인 구성보다 에너지를 2.6~4.8배 더 쓰며, 일부는 27배까지 소비한다고 밝혔다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
Zeyu Yang이 이끄는 연구팀은 2026년 10월 14일, 공개 가중치 대규모 언어 모델(LLM) 86종이 6개 하드웨어 플랫폼에서 7개 벤치마크를 실행할 때 소비하는 전력을 측정한 논문을 발표했다. 연구에 따르면 대부분의 구성은 필요한 양보다 훨씬 많은 전력을 사용했다. 낭비량은 중앙값 기준 2.6~4.8배였고, 극단적인 경우에는 27배에 달했다. 추론 단계를 추가하면 에너지 사용량이 약 3.7배 늘었으며, 저정밀도 FP8 연산을 사용하면 점수 손실은 거의 없이 에너지를 약 25% 줄일 수 있었다.
개발자는 에너지 효율이 높은 LLM 구성을 선택해 운영 비용과 탄소 배출량을 줄일 수 있다.
모델
Canva의 새 AI 모델은 세밀한 레이아웃과 편집 가능한 텍스트를 갖춘 최대 2K 이미지를 생성한다. Dream Lab과 API를 통해 이용할 수 있다.
모델
힌디어와 핀란드어를 포함해 음성 14종을 추가했다. 기존 생성형 음성 이용자는 코드 변경이나 요금 인상 없이 업그레이드를 이용할 수 있다.
모델
Uber는 직원 1,000명을 대상으로 한 시범 운영에 이어 전 세계 직원들이 ChatGPT Work를 사용하게 된다고 밝혔다. 도입 비용은 공개하지 않았다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
