# Google открыла исходный код TorchTPU для PyTorch на TPU

> Проект Google и Meta позволяет запускать PyTorch на чипах Google с небольшими изменениями кода. Он совместим с такими инструментами, как vLLM и Hugging Face.

Oossa · 2026-11-02 · https://oossa.com/ru/google-open-sources-torchtpu-for-running-pytorch-on-tpus

Google открыла исходный код TorchTPU — программного слоя, который позволяет запускать PyTorch, широко используемый инструментарий для создания и запуска ИИ-моделей, на тензорных процессорах Google (TPU). Проект разработан совместно с командой PyTorch в Meta и призван упростить перенос существующих задач на TPU: вместо переписывания кода обычно достаточно внести небольшие изменения.

По словам Google, TorchTPU поддерживает как eager-выполнение — операции запускаются по мере вызова, что удобно для отладки, — так и компиляцию для рабочих нагрузок в production. Разработчикам достаточно сменить настройку устройства с «cuda» на «tpu» и использовать бэкенд распределённых вычислений для TPU; альтернативный вариант — API PyTorch для определения доступных ускорителей. TorchTPU доступен на GitHub, однако в планах развития остаются поддержка динамических форм входных данных, ускорение компиляции, расширение набора операторов, а также работа с обучением с подкреплением и квантованием.

## Что меняется для разработчиков?

Запуск TorchTPU связывает TPU с программными инструментами, которыми уже пользуются многие разработчики PyTorch. Google утверждает, что TorchTPU работает с инструментами для обслуживания моделей vLLM и SGLang, а также с проектами для обучения и управления вычислениями, включая TorchTitan, Ray и TorchRec. В Transformers v5 разработчики могут выбрать TPU с помощью настройки device_map="tpu", сообщает Hugging Face. Библиотека Diffusers тоже поддерживает выполнение на TPU, в том числе в скомпилированном режиме и с распределением задач между несколькими ускорителями.

Это иной подход по сравнению с PyTorch/XLA — прежним способом Google запускать PyTorch на TPU. По словам компании, он требовал более существенных изменений кода, отличался долгой компиляцией и не поддерживал eager-режим PyTorch. Google создала тестовый конвейер, который, по данным InfoQ, проверяет около 5,000 моделей Hugging Face на более чем 500 архитектурах. Это говорит о масштабном тестировании, но не гарантирует, что любая модель или рабочая нагрузка заработает без изменений.

## Как это соотносится с другими аппаратными решениями?

По данным Google, режим DeferAndFuse в TorchTPU — гибрид eager-выполнения и компиляции — может быть как минимум на 50% быстрее режима Strict Eager и при этом сокращать пиковое потребление памяти ускорителя. В отдельном тесте Google запустила модель Muse Glimmer с 30 миллиардов параметров на стандартном PyTorch. InfoQ сообщает, что пропускная способность при инференсе составила 25,700 токенов в секунду на одном чипе TPUv7 при длине последовательности 5,120 и 22,400 — при длине 10,240. При обучении на четырёх чипах TPUv7 показатели составили соответственно 5,600 и 4,600 токенов в секунду. Это результаты, представленные Google, а не независимое сравнение.

TechCrunch рассматривает TorchTPU в одном ряду с TorchNeuron от Amazon, анонсированным на той же неделе для запуска рабочих нагрузок PyTorch на чипах Trainium компании. Оба проекта призваны упростить использование альтернатив графическим процессорам Nvidia. Выход TorchTPU добавляет для пользователей PyTorch ещё один вариант аппаратной платформы, но сам по себе не доказывает, что перенос задачи снизит расходы или даст более высокую производительность, чем текущая конфигурация разработчика.

## Факты

- Google представила TorchTPU с открытым исходным кодом на PyTorch Conference 2026 и сообщает, что проект разработан совместно с командой PyTorch в Meta.
- По заявлению Google, режим DeferAndFuse как минимум на 50% быстрее Strict Eager и при этом сокращает пиковое потребление памяти.
- По данным InfoQ, Google проверила около 5,000 моделей Hugging Face на более чем 500 архитектурах.
- В тесте Google с Muse Glimmer использовалась модель с 30 миллиардами параметров: инференс выполнялся на одном чипе TPUv7, а обучение — на четырёх.

## Почему это важно

Разработчикам, уже использующим PyTorch, TorchTPU может упростить тестирование и запуск задач на TPU Google без необходимости создавать их заново. Пока неясно, позволит ли такой переход ускорить работу конкретной модели или снизить затраты: приведённые показатели производительности получены самой Google.

## Источники и ссылки

1. [Google and Meta Open-source TorchTPU to Bring Native PyTorch Support to Google TPUs](https://www.infoq.com/news/2026/11/torchtpu-native-pythorch-tpu/?utm_campaign=infoq_content&utm_source=infoq&utm_medium=feed&utm_term=AI%2C+ML+%26+Data+Engineering) – InfoQ, 2026-11-02
2. [Google Cloud](https://cloud.google.com/blog/topics/ai-infrastructure/torchtpu-is-now-open-source-run-native-pytorch-on-tpus?hl=en) – Google Cloud
3. [Google has joined Amazon in attacking Nvidia’s stronghold with AI app developers](https://techcrunch.com/2026/10/20/google-has-joined-amazon-in-attacking-nvidias-stronghold-with-ai-app-developers/) – TechCrunch, 2026-10-20

Обновлено: 2026-11-02