Oossa

Un consorzio UE addestra un modello AI da 1.000 miliardi di parametri su un supercomputer pubblico

Con PyTorch e TorchTitan, il team EUROPA ha raggiunto circa 1.300 token al secondo per GPU su 384 NVIDIA GH200, dimostrando che l’infrastruttura condivisa dell’UE può sostenere addestramenti su scala d’avanguardia.

BreveDi Pubblicato da Oossa: 1 min di lettura

Il consorzio EUROPA, formato da Domyn, Fraunhofer IAIS e IIS, ha addestrato su JUPITER, il supercomputer exascale EuroHPC del Forschungszentrum Jülich, un modello mixture-of-experts con circa 1.000 miliardi di parametri. Ottimizzando PyTorch e TorchTitan, ha portato la velocità di elaborazione da 90 a circa 1.300 token al secondo per GPU, su 384 GH200 (96 nodi). Il lavoro dimostra che le risorse pubbliche di calcolo sovrane possono supportare l’AI su una scala pari a quella dei cluster privati.

Perché conta

Dimostra che le risorse pubbliche europee di calcolo possono gestire l’AI su scala d’avanguardia, riducendo la dipendenza dal noleggio di cloud privati.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.