OpenAI는 자사의 AI 모델을 AMD 주력 GPU 설계 최적화에 활용했다고 발표했다. 5개월도 채 되지 않아 전력, 성능, 칩 면적 등 AMD가 PPA라는 약어로 묶어 부르는 세 가지 지표를 최대 14% 개선했다. AMD는 이미 수년간 다듬어 온 설계를 바탕으로 엔지니어들이 통상 달성하는 데 약 1년이 걸리는 개선 폭이라고 설명했다. 변경 사항 중 일부는 이미 반영돼 현재 제조 공정에 들어갈 예정인 칩 설계에 적용됐다.
이번 작업은 AMD 하드웨어 팀과 협력해 진행됐다. OpenAI는 GPT 계열 모델에 레이아웃 및 타이밍 데이터를 입력해 전력 소모를 줄이고 연산 속도를 높이거나 실리콘 면적을 줄일 수 있는 미세 조정을 제안하도록 했다. OpenAI는 자체 추론용 맞춤형 칩인 Jalapeño에서도 같은 방식이 효과를 냈다고 밝혔다. GPT‑6.2 Astra 모델은 오픈소스 RISC‑V 코어에서 이전 버전보다 나은 결과를 냈다. OpenAI는 전자설계자동화(EDA) 업체 Synopsys와도 GPT‑Synopsys라는 프로젝트를 진행 중이다. 이 프로젝트는 AI 지원 칩 설계 도구를 더 많은 엔지니어가 이용할 수 있도록 하는 것을 목표로 한다.
다른 AI 기업들은 비슷한 기술을 어떻게 활용하나
또 다른 AI 연구소인 Anthropic도 Mythos 모델에서 비슷한 속도 향상을 확인했다고 밝혔다. 이 모델은 AMD MI355X GPU에서 실행되는 설계 작업의 프롬프트를 3일 만에 처리했다. Anthropic은 통상 6~12개월이 걸리는 작업이라고 설명했다. Anthropic은 현재 비용과 달러당 성능의 균형을 맞추기 위해 AMD 칩 4개 제품군에서 Claude 어시스턴트를 운영한다. 이런 사례는 AI 기반 설계가 연구실을 넘어 실제 실리콘 생산 단계로 옮겨가고 있음을 보여준다.
시장 전반에 미치는 의미
AI가 고성능 GPU 개발 주기를 1년 단축할 수 있다면, 반도체 업체는 더 효율적인 하드웨어를 더 빠르고 낮은 비용으로 고객에게 선보일 수 있다. 게이머와 데이터센터 운영자, 그래픽카드를 구매하는 사람들은 노트북 배터리 사용 시간 증가, 클라우드 컴퓨팅 비용 절감, 같은 성능을 내는 더 작은 기기 등의 혜택을 볼 수 있다. 실제 절감 폭은 AI가 제안한 변경 사항 중 양산 칩에 얼마나 반영되는지에 달려 있으며, AMD는 아직 이 부분을 공개하지 않았다.
왜 중요한가
소비자는 발열과 전력 소모가 적은 그래픽카드를 이용할 수 있어 전기 요금을 아끼고 노트북을 더 조용하게 사용할 수 있다. 데이터센터 운영자는 같은 작업량을 처리하는 데 필요한 칩 수를 줄여 초기 투자 비용을 절감할 수도 있다. 새 설계가 시장에 나올 때까지 정확한 가격 영향은 불분명하다.