Oossa

EU 컨소시엄, 공공 슈퍼컴퓨터로 1조 파라미터 AI 모델 학습

EUROPA 팀은 PyTorch와 TorchTitan을 활용해 NVIDIA GH200 GPU 384개에서 GPU당 초당 약 1,300토큰의 처리량을 달성하며, EU 공동 인프라에서 최첨단 규모의 모델을 학습할 수 있음을 입증했다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

EUROPA 컨소시엄(Domyn, Fraunhofer IAIS, Fraunhofer IIS)은 Forschungszentrum Jülich의 EuroHPC 엑사스케일 슈퍼컴퓨터 JUPITER에서 약 1조 개의 파라미터를 가진 전문가 혼합(MoE) 모델을 학습했다. PyTorch와 TorchTitan을 조정해 GH200 GPU 384개(노드 96개)에서 GPU당 처리량을 초당 90토큰에서 약 1,300토큰으로 끌어올렸다. 이번 성과는 공공의 주권형 컴퓨팅 자원으로도 민간 클러스터와 같은 규모의 AI를 지원할 수 있음을 보여준다.

왜 중요한가

유럽의 공공 컴퓨팅 자원으로 최첨단 규모의 AI를 구동할 수 있음을 보여줘, 민간 클라우드 대여에 대한 의존도를 낮출 수 있다.

출처 및 참고 자료

1 개 출처
  1. PyTorch원본 출처 읽기

Markdown

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.