EUROPA 联盟由 Domyn、Fraunhofer IAIS 和 IIS 组成,在位于于利希研究中心的 JUPITER(EuroHPC 百亿亿次级超级计算机)上训练了一个约有 1 万亿参数的混合专家模型。通过优化 PyTorch 和 TorchTitan,团队将 384 块 GH200 GPU(96 个节点)的吞吐量从每块 GPU 每秒 90 个 token 提升至约 1,300 个。该项目表明,公共主权算力也能支持与私有集群同等规模的 AI。
为什么重要
这表明欧洲公共算力资源能够运行前沿规模的 AI,减少对租用私有云资源的依赖。