Google은 2026년 11월 9일 텐서 처리 장치(TPU) 신제품 2종을 발표했다. TPU 8tx는 기밀 추론에 맞춰 설계돼 모델 가중치와 데이터를 칩 내부에서 보호한다. TPU 8i Max는 추론에 초점을 둔 TPU 8i 칩 2개를 하나의 패키지로 결합해 메모리와 연산 성능, 대역폭을 두 배로 높였다. 두 칩 모두 Google이 2024년 4월 처음 선보인 8세대 제품군에 속한다.
신형 칩의 의미
8tx는 하드웨어 수준의 암호화를 적용해 규제 대상 기업이 민감한 데이터를 다른 시스템으로 옮기지 않고도 해당 데이터로 모델을 미세 조정하거나 실행할 수 있게 한다. Google에 따르면 이 칩은 이전 TPU 8t보다 지연 시간을 약 절반으로 줄이면서 학습과 추론을 함께 처리할 수 있고, 성능 저하는 최소화한다. 8i Max는 대규모 에이전트의 속도를 떨어뜨리는 ‘메모리 장벽’을 겨냥한다. 8i 칩 2개를 결합해 같은 랙 공간에서 SRAM, HBM 대역폭, 연산 밀도를 두 배로 높여 모델이 백만 토큰 규모의 컨텍스트 윈도우를 처리할 수 있게 한다.
더 넓은 맥락
Google의 행보는 Microsoft, Amazon, OpenAI, Anthropic이 자체 AI 전용 반도체를 설계하고 Nvidia GPU에 대한 의존도를 낮추려는 움직임에 뒤이은 것이다. Google은 연구소부터 소매업체까지 현재 거의 100곳이 TPU를 이용하고 있으며, 한 해에 TPU 시스템 4종을 출시한 것은 회사 최초라고 밝혔다. 칩은 Google Cloud를 통해 제공되며, 기업의 자체 데이터센터에 설치할 수도 있다.
왜 중요한가
독점 데이터를 사내에 보관해야 하는 기업은 8tx의 내장 보안 기능을 활용해 데이터를 외부 서버에 노출하지 않고 모델을 미세 조정할 수 있다. 대규모 언어 모델 에이전트를 운영하는 기업은 같은 랙 공간에서 더 많은 메모리와 대역폭을 제공하는 8i Max로 처리 지연을 줄일 수 있다.
