# EU 컨소시엄, 공공 슈퍼컴퓨터로 1조 파라미터 AI 모델 학습

> EUROPA 팀은 PyTorch와 TorchTitan을 활용해 NVIDIA GH200 GPU 384개에서 GPU당 초당 약 1,300토큰의 처리량을 달성하며, EU 공동 인프라에서 최첨단 규모의 모델을 학습할 수 있음을 입증했다.

Oossa · 2026-11-12 · https://oossa.com/ko/eu-consortium-trains-1-trillion-parameter-ai-model-on-public-supercomputer

EUROPA 컨소시엄(Domyn, Fraunhofer IAIS, Fraunhofer IIS)은 Forschungszentrum Jülich의 EuroHPC 엑사스케일 슈퍼컴퓨터 JUPITER에서 약 1조 개의 파라미터를 가진 전문가 혼합(MoE) 모델을 학습했다. PyTorch와 TorchTitan을 조정해 GH200 GPU 384개(노드 96개)에서 GPU당 처리량을 초당 90토큰에서 약 1,300토큰으로 끌어올렸다. 이번 성과는 공공의 주권형 컴퓨팅 자원으로도 민간 클러스터와 같은 규모의 AI를 지원할 수 있음을 보여준다.

## 팩트

- 처리량: NVIDIA GH200 GPU 384개에서 GPU당 초당 약 1,300토큰
- 모델 규모: 전체 파라미터 951.9B개(토큰당 활성 파라미터 32.8B개)

## 왜 중요한가

유럽의 공공 컴퓨팅 자원으로 최첨단 규모의 AI를 구동할 수 있음을 보여줘, 민간 클라우드 대여에 대한 의존도를 낮출 수 있다.

## 출처 및 참고 자료

1. [Training a 1T-Parameter MoE on EU public infrastructure with PyTorch and TorchTitan](https://pytorch.org/blog/training-a-1t-parameter-moe-on-eu-public-infrastructure-with-pytorch-and-torchtitan/) – PyTorch

최종 업데이트: 2026-11-12