Google расширила линейку тензорных процессоров (TPU) восьмого поколения. В TPU 8tx используется та же кремниевая основа, что и в более раннем TPU 8t, но Arm-хост заменён процессором AMD EPYC 5-го поколения, а сеть — на Boardfly. Чип предназначен для инференса с аппаратной изоляцией в регулируемых отраслях и государственных организациях. В TPU 8i Max два чипа 8i объединены в одном корпусе: это вдвое увеличивает вычислительную мощность, объём SRAM и пропускную способность HBM для работы с агентами, использующими длинный контекст.
Почему это важно
Предприятия, которым нужен безопасный ИИ с низкой задержкой, смогут использовать новый TPU 8tx без разработки специального оборудования. Разработчики агентов, работающих с большим контекстом, получат вдвое большую вычислительную мощность в том же форм-факторе.
