Oossa

欧盟团队在公共超级计算机上训练万亿参数 AI 模型

EUROPA 团队使用 PyTorch 和 TorchTitan,在 384 块 NVIDIA GH200 GPU 上实现每块 GPU 约 1,300 个 token/秒,证明共享的欧盟基础设施也能支持前沿规模模型训练。

简讯作者: Oossa 发布日期: 1 分钟阅读

EUROPA 联盟由 Domyn、Fraunhofer IAIS 和 IIS 组成,在位于于利希研究中心的 JUPITER(EuroHPC 百亿亿次级超级计算机)上训练了一个约有 1 万亿参数的混合专家模型。通过优化 PyTorch 和 TorchTitan,团队将 384 块 GH200 GPU(96 个节点)的吞吐量从每块 GPU 每秒 90 个 token 提升至约 1,300 个。该项目表明,公共主权算力也能支持与私有集群同等规模的 AI。

为什么重要

这表明欧洲公共算力资源能够运行前沿规模的 AI,减少对租用私有云资源的依赖。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。