# Google apre TPU Sync, la libreria per trasferire più rapidamente le cache KV

> La nuova libreria C++ open source di Google riduce di oltre il 90% la latenza di trasferimento delle cache KV sui modelli MoE di grandi dimensioni.

Oossa · 2026-11-13 · https://oossa.com/it/google-opens-tpu-sync-library-for-faster-kv-cache-moves

Google ha rilasciato TPU Sync, una libreria C++ open source che trasferisce cache key-value (KV) e pesi dei modelli tra la memoria ad alta larghezza di banda dei TPU, la RAM dell’host, lo storage e la rete. Secondo l’azienda, la libreria riduce di oltre il 90% la latenza di trasferimento delle cache KV sui modelli mixture-of-experts con un numero di parametri compreso tra 235 miliardi e 480 miliardi.

## I fatti

- Google ha rilasciato TPU Sync il 2026-11-13 ("Fri Nov 13 2026 11:32:26 GMT+0100").
- Riduzione della latenza dichiarata: oltre il 90% per modelli MoE da 235B a 480B.

## Perché conta

Gli sviluppatori possono aggiornare molto più rapidamente lo stato dei modelli linguistici di grandi dimensioni sui TPU, riducendo le pause durante l’inferenza o la messa a punto.

## Fonti e riferimenti

1. [Google Releases TPU Sync: Open-Source KV Cache Transfer for TPUs](https://www.marktechpost.com/2026/11/13/google-tpu-sync-kv-cache-transfer-library/) – MarkTechPost, 2026-11-13

Ultimo aggiornamento: 2026-11-13