EUROPA-konsortiet – Domyn, Fraunhofer IAIS och IIS – tränade en mixture-of-experts-modell med omkring 1 biljon parametrar på JUPITER, EuroHPC:s exaskaladator vid Forschungszentrum Jülich. Genom att finjustera PyTorch och TorchTitan ökade de genomströmningen från 90 till cirka 1 300 token per sekund och GPU på sammanlagt 384 GH200-GPU:er (96 noder). Arbetet visar att offentlig, suverän datorkapacitet kan hantera AI i samma skala som privata kluster.
Varför det spelar roll
Det visar att europeiska offentliga datorresurser kan köra AI i frontlinjeskala och minska beroendet av hyrda privata molntjänster.