Das EUROPA-Konsortium aus Domyn, Fraunhofer IAIS und IIS hat auf JUPITER, dem Exascale-Supercomputer von EuroHPC am Forschungszentrum Jülich, ein Mixture-of-Experts-Modell mit rund 1 Billion Parametern trainiert. Durch die Optimierung von PyTorch und TorchTitan steigerte das Team den Durchsatz auf rund 1.300 Tokens pro Sekunde und GPU – von zuvor 90 – auf 384 GH200-GPUs (96 Knoten). Die Arbeit zeigt, dass öffentliche, souveräne Rechenkapazitäten KI in derselben Größenordnung wie private Cluster ermöglichen.
Warum es wichtig ist
Das zeigt, dass öffentliche Rechenressourcen in Europa KI auf Spitzenniveau ermöglichen und die Abhängigkeit von gemieteten privaten Cloud-Kapazitäten verringern können.
