# Google открыла библиотеку TPU Sync для ускорения переноса KV-кэша

> Новая библиотека Google с открытым исходным кодом на C++ сокращает задержку переноса KV-кэша более чем на 90% на крупных MoE-моделях.

Oossa · 2026-11-13 · https://oossa.com/ru/google-opens-tpu-sync-library-for-faster-kv-cache-moves

Google выпустила TPU Sync — библиотеку с открытым исходным кодом на C++, которая переносит кэши ключей и значений (KV-кэши) и веса моделей между высокоскоростной памятью TPU, оперативной памятью хоста, хранилищем и сетью. По заявлению компании, библиотека более чем на 90% сокращает задержку переноса KV-кэша на моделях со смесью экспертов (MoE) с 235 до 480 миллиардов параметров.

## Факты

- Google выпустила TPU Sync 2026-11-13 ("Fri Nov 13 2026 11:32:26 GMT+0100").
- Заявленное снижение задержки: >90% для MoE-моделей с 235B–480B параметров.

## Почему это важно

Разработчики смогут гораздо быстрее обновлять состояние больших языковых моделей на TPU, сокращая паузы при инференсе и дообучении.

## Источники и ссылки

1. [Google Releases TPU Sync: Open-Source KV Cache Transfer for TPUs](https://www.marktechpost.com/2026/11/13/google-tpu-sync-kv-cache-transfer-library/) – MarkTechPost, 2026-11-13

Обновлено: 2026-11-13