Le consortium EUROPA — Domyn, Fraunhofer IAIS et IIS — a entraîné un modèle à mélange d’experts comptant environ 1 000 milliards de paramètres sur JUPITER, le supercalculateur exascale d’EuroHPC au Forschungszentrum Jülich. En optimisant PyTorch et TorchTitan, l’équipe a fait passer le débit de 90 à environ 1 300 tokens par seconde et par GPU, sur 384 GPU GH200 (96 nœuds). Ce travail montre que des ressources publiques et souveraines peuvent prendre en charge une IA à la même échelle que les grappes privées.
Pourquoi c'est important
Cela montre que les ressources informatiques publiques européennes peuvent faire tourner des modèles d’IA de pointe, réduisant ainsi la dépendance à la location de ressources dans le cloud privé.
