A Google anunciou dois novos sistemas de aceleração de IA nesta semana. A TPU 8tx foi desenvolvida para empresas e órgãos governamentais que precisam manter os dados criptografados durante o processamento. A TPU 8i Max reúne dois chips TPU 8i de oitava geração em um único encapsulamento, dobrando o poder computacional, a memória e a largura de banda no mesmo rack. As duas variantes usam o mesmo silício das TPUs de oitava geração já existentes, mas têm configurações diferentes de encapsulamento, rede e memória. Segundo a Google, essa abordagem modular permite lançar novos equipamentos em meses, em vez de anos.
A TPU 8tx resolve uma lacuna de segurança: os dados e os pesos dos modelos permanecem criptografados mesmo durante o uso. A Google a compara aos recursos de computação confidencial para GPUs da Nvidia. O sistema funciona na rede Boardfly de baixa latência da Google e promete reduzir a latência em até duas vezes em relação à antiga TPU 8t. Segundo a empresa, um único sistema 8tx pode ajustar modelos, destilar modelos grandes e treinar agentes de aprendizado por reforço sem transferir dados confidenciais entre clusters.
A TPU 8i Max busca superar o gargalo de memória que surge quando agentes de IA lidam com grandes bases de código ou horas de vídeo. Ao combinar dois chips TPU 8i, o novo sistema dobra a capacidade de memória e a largura de banda, além de oferecer aproximadamente o dobro do poder computacional no mesmo espaço de rack. Segundo a Google, isso se traduz em mais desempenho por metro quadrado de espaço no data center.
Além do hardware, a Google está facilitando a adoção das TPUs. A empresa lançou o TorchTPU como código aberto, para que códigos do PyTorch possam ser executados em TPUs com mudanças mínimas, e acrescentou suporte a frameworks de inferência populares, como vLLM e SGLang. Agora, a empresa afirma ter quase 100 clientes externos usando suas TPUs, uma mudança em relação à estratégia anterior, restrita ao uso interno.
Por que as novas TPUs são importantes
Empresas que lidam com dados confidenciais agora podem executar cargas de trabalho de IA sem descriptografar as informações, reduzindo o risco de vazamentos. Desenvolvedores que trabalham com tarefas de inferência em grande escala, como análise de vídeo ou busca em bases de código, têm mais memória e velocidade sem precisar ampliar o espaço ocupado no data center.
Por que importa
Empresas que precisam proteger dados confidenciais podem executar modelos de IA sem expor informações em formato bruto, reduzindo os riscos e os custos relacionados à segurança. Equipes que realizam grandes tarefas de inferência obtêm mais desempenho por rack, o que pode reduzir os custos com hardware e as necessidades de espaço.
