Googleは2026年11月9日、Tensor Processing Unit（TPU）の新モデルを2種類発表した。TPU 8txは機密性の高い推論向けで、モデルの重みやデータをチップ内で保護する。TPU 8i Maxは、推論に特化したTPU 8iを2基、1つのパッケージに統合したもので、メモリ、演算性能、帯域幅がそれぞれ2倍になる。どちらも、Googleが2024年4月に初めて発表した第8世代に属する。
新チップの意義
8txはハードウェアレベルの暗号化を備え、規制対象の企業が機密データを別のシステムに移さずに、モデルのファインチューニングや実行を行えるようにする。Googleによると、このチップは従来のTPU 8tに比べ、レイテンシを約半分に抑えながら、学習と推論を同時に実行できる。性能低下も最小限にとどまるという。8i Maxは、大規模なエージェントの処理を遅らせる「メモリーの壁」の解消を狙う。8iを2基まとめることで、ラック設置面積を変えずにSRAM、HBM帯域幅、演算密度をそれぞれ2倍にし、100万トークン規模のコンテキストウィンドウをモデルで処理できるようにする。
より広い動向
今回の動きは、Microsoft、Amazon、OpenAI、Anthropicが独自のAI向け半導体を設計し、NvidiaのGPUへの依存を減らそうとしている流れに続くものだ。Googleによると、TPU事業の顧客は現在、研究機関から小売企業まで約100社に上る。また、同社として初めて、1年間に4種類のTPUシステムをリリースしたという。チップはGoogle Cloud経由で提供され、プライベートデータセンターへの設置にも対応する。
なぜ重要か
独自データを社内にとどめる必要がある企業は、8txの組み込みセキュリティにより、外部サーバーにデータをさらすことなくモデルをファインチューニングできる。大規模言語モデルのエージェントを運用する企業は、同じラックスペースでより多くのメモリと帯域幅を利用できるため、処理の停滞を抑えられる。
