O consórcio EUROPA — Domyn, Fraunhofer IAIS e IIS — treinou no JUPITER, o supercomputador exascale da EuroHPC no Forschungszentrum Jülich, um modelo de mistura de especialistas com cerca de 1 trilhão de parâmetros. Com ajustes no PyTorch e no TorchTitan, a equipe elevou o desempenho de 90 para aproximadamente 1.300 tokens por segundo por GPU, usando 384 GPUs GH200 (96 nós). O trabalho mostra que a computação pública e soberana pode dar suporte a IA na mesma escala que clusters privados.
Por que importa
O trabalho demonstra que os recursos públicos de computação da Europa podem executar IA de ponta, reduzindo a dependência de serviços de nuvem privada.
