# Google lanza TPU Sync para acelerar el traslado de cachés KV

> La nueva biblioteca C++ de código abierto de Google reduce más del 90 % la latencia al transferir cachés KV en grandes modelos MoE.

Oossa · 2026-11-13 · https://oossa.com/es/google-opens-tpu-sync-library-for-faster-kv-cache-moves

Google lanzó TPU Sync, una biblioteca C++ de código abierto que mueve cachés de clave-valor (KV) y pesos de modelos entre la memoria de alto ancho de banda de las TPU, la RAM del host, el almacenamiento y la red. La compañía afirma que la biblioteca reduce más del 90 % la latencia de transferencia de KV en modelos de mezcla de expertos (MoE) de entre 235 mil millones y 480 mil millones de parámetros.

## Los hechos

- Google lanzó TPU Sync el 2026-11-13 ("Fri Nov 13 2026 11:32:26 GMT+0100").
- Reducción de latencia anunciada: >90 % en modelos MoE de 235B‑480B.

## Por qué importa

Los desarrolladores pueden actualizar mucho más rápido el estado de los modelos de lenguaje grandes en las TPU, lo que reduce las pausas durante la inferencia o el ajuste fino.

## Fuentes y referencias

1. [Google Releases TPU Sync: Open-Source KV Cache Transfer for TPUs](https://www.marktechpost.com/2026/11/13/google-tpu-sync-kv-cache-transfer-library/) – MarkTechPost, 2026-11-13

Última actualización: 2026-11-13
