EUROPAコンソーシアム(Domyn、Fraunhofer IAIS、IIS)は、Forschungszentrum JülichにあるEuroHPCのエクサスケールスーパーコンピューターJUPITER上で、約1兆パラメーターの混合エキスパートモデルを学習させた。PyTorchとTorchTitanを調整し、GH200 GPU 384基(96ノード)で、スループットをGPU当たり毎秒90トークンから約1,300トークンに引き上げた。この成果は、公的な主権型コンピューティング基盤が、民間クラスターと同規模のAIを支えられることを示している。
なぜ重要か
欧州の公的コンピューティング資源でも最先端規模のAIを実行できることを示し、民間クラウドの利用への依存を減らす可能性がある。