# Google lança biblioteca TPU Sync para acelerar transferências de cache KV

> A nova biblioteca C++ de código aberto do Google reduz em mais de 90% a latência de transferência do cache KV em grandes modelos MoE.

Oossa · 2026-11-13 · https://oossa.com/pt/google-opens-tpu-sync-library-for-faster-kv-cache-moves

O Google lançou o TPU Sync, uma biblioteca C++ de código aberto que transfere caches de chave-valor (KV) e pesos de modelos entre a memória de alta largura de banda das TPUs, a RAM do host, o armazenamento e a rede. A empresa afirma que a biblioteca reduz em mais de 90% a latência de transferência do cache KV em modelos de mistura de especialistas com 235 bilhões a 480 bilhões de parâmetros.

## Os fatos

- O Google lançou o TPU Sync em 2026-11-13 ("Fri Nov 13 2026 11:32:26 GMT+0100").
- Redução de latência alegada: >90% em modelos MoE de 235B a 480B.

## Por que importa

Os desenvolvedores podem atualizar o estado de grandes modelos de linguagem em TPUs muito mais rapidamente, reduzindo o tempo de pausa durante a inferência ou o ajuste fino.

## Fontes e referências

1. [Google Releases TPU Sync: Open-Source KV Cache Transfer for TPUs](https://www.marktechpost.com/2026/11/13/google-tpu-sync-kv-cache-transfer-library/) – MarkTechPost, 2026-11-13

Última atualização: 2026-11-13