9 ноября 2026 года Google представила два новых варианта тензорных процессоров (TPU). TPU 8tx предназначен для конфиденциального инференса: веса модели и данные защищены внутри чипа. TPU 8i Max объединяет два чипа TPU 8i, ориентированных на инференс, в одном корпусе, удваивая объём памяти, вычислительную мощность и пропускную способность. Оба чипа относятся к восьмому поколению, которое Google впервые представила в апреле 2024 года.
Зачем нужны новые чипы
В 8tx добавлено аппаратное шифрование: благодаря ему компании, работающие с регулируемыми данными, могут дообучать модели или запускать их на конфиденциальных данных, не перенося эти данные в другую систему. По словам Google, чип позволяет одновременно обучать модели и выполнять инференс с задержкой примерно вдвое меньше, чем у предыдущего TPU 8t, при минимальном снижении производительности. 8i Max призван преодолеть «стену памяти», которая замедляет работу масштабных ИИ-агентов. Объединение двух чипов 8i обеспечивает вдвое больше SRAM, пропускной способности HBM и вычислительной плотности при тех же габаритах стойки, позволяя моделям работать с контекстом в миллион токенов.
Общий контекст
Шаг Google последовал за аналогичными усилиями Microsoft, Amazon, OpenAI и Anthropic: компании разрабатывают специализированные для ИИ чипы, чтобы меньше зависеть от графических процессоров Nvidia. Google сообщает, что её бизнес TPU теперь обслуживает почти 100 клиентов — от исследовательских лабораторий до розничных сетей. Кроме того, за один год компания выпустила четыре разные системы TPU — впервые в своей истории. Чипы доступны через Google Cloud, а также могут устанавливаться в частных центрах обработки данных.
Почему это важно
Компании, которым необходимо хранить конфиденциальные данные на собственных площадках, теперь могут дообучать модели, не передавая эти данные на внешние серверы: встроенная защита 8tx помогает сохранить их в безопасности. А компании, запускающие масштабных языковых агентов, смогут сократить замедления благодаря увеличенным объёму памяти и пропускной способности 8i Max при тех же габаритах стойки.
