Op 9 november 2026 kondigde Google twee nieuwe varianten van zijn tensor processing units (TPU's) aan. De TPU 8tx is ontworpen voor vertrouwelijke inferentie: modelgewichten en gegevens blijven beschermd in de chip. De TPU 8i Max combineert twee op inferentie gerichte TPU 8i-chips in één behuizing en verdubbelt daarmee het geheugen, de rekenkracht en de bandbreedte. Beide chips behoren tot de achtste generatie, die Google in april 2024 voor het eerst introduceerde.
Waarom de nieuwe chips ertoe doen
De 8tx voegt versleuteling op hardwareniveau toe, zodat bedrijven die aan regelgeving moeten voldoen modellen kunnen finetunen of uitvoeren met gevoelige gegevens, zonder die naar een ander systeem te verplaatsen. Volgens Google kan de chip training en inferentie combineren met ongeveer de helft van de latentie van de eerdere TPU 8t, terwijl het prestatieverlies minimaal blijft. De 8i Max is bedoeld om de ‘geheugenmuur’ te doorbreken die grootschalige AI-agents afremt. Door twee 8i-chips samen te voegen, biedt hij twee keer zoveel SRAM, HBM-bandbreedte en rekencapaciteit in dezelfde rackruimte. Zo kunnen modellen contextvensters van miljoenen tokens verwerken.
Breder perspectief
Google zet hiermee een stap die vergelijkbaar is met de inspanningen van Microsoft, Amazon, OpenAI en Anthropic om eigen silicium voor AI te ontwikkelen en minder afhankelijk te worden van Nvidia-GPU's. Volgens Google bedient zijn TPU-activiteiten inmiddels bijna 100 klanten, van onderzoekslabs tot retailers. Ook heeft het bedrijf in één jaar tijd vier verschillende TPU-systemen uitgebracht, voor het eerst. De chips zijn verkrijgbaar via Google Cloud en kunnen ook in private datacenters worden geïnstalleerd.
Waarom het ertoe doet
Bedrijven die hun bedrijfseigen gegevens op locatie moeten houden, kunnen dankzij de ingebouwde beveiliging van de 8tx modellen finetunen zonder die gegevens bloot te stellen aan externe servers. Bedrijven die grote taalmodellen voor AI-agents gebruiken, krijgen minder last van vertragingen doordat de 8i Max meer geheugen en bandbreedte biedt in dezelfde rackruimte.
