Oossa

PyTorch 2.15 torna padrão seu backend NCCL reescrito

A versão traz diagnósticos de travamentos no treinamento distribuído e atualizações para hardware da Apple, AMD, Intel e NVIDIA.

NotaPor Publicado pelo Oossa: 1 min de leitura

O PyTorch lançou a versão 2.15 e tornou padrão seu backend NCCL reescrito para tarefas que usam o NCCL, sistema de comunicação que coordena GPUs da NVIDIA. Se um grupo de GPUs travar durante o treinamento, um novo gravador de eventos pode salvar o que cada rank estava fazendo, ajudando as equipes a investigar a falha.

A versão também adiciona transferências de dados unidirecionais por meio de um backend NIXL e dá aos desenvolvedores mais controle sobre memória e comunicação no treinamento distribuído. Outras novidades incluem kernels de inferência mais rápidos para Apple Silicon, CUDA 13.2 como versão padrão do wheel e suporte ao Python 3.15 no torch.compile.

Por que importa

Equipes que treinam modelos em várias GPUs NVIDIA passam a contar com registros de diagnóstico quando a comunicação trava, embora as notas da versão não quantifiquem quanto isso pode reduzir o tempo de recuperação.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.