Am 9. November 2026 kündigte Google zwei neue Varianten seiner Tensor Processing Units (TPUs) an. Die TPU 8tx ist für vertrauliche Inferenz ausgelegt und schützt Modellgewichte und Daten innerhalb des Chips. Die TPU 8i Max vereint zwei auf Inferenz ausgelegte TPU-8i-Chips in einem Gehäuse und verdoppelt so Speicher, Rechenleistung und Bandbreite. Beide Chips gehören zur achten Generation, die Google erstmals im April 2024 vorgestellt hat.
Warum die neuen Chips wichtig sind
Die 8tx bietet Verschlüsselung auf Hardwareebene. So können Unternehmen aus regulierten Branchen Modelle mit sensiblen Daten feinabstimmen oder ausführen, ohne diese Daten auf ein anderes System übertragen zu müssen. Laut Google kann der Chip Training und Inferenz gleichzeitig ausführen – bei etwa halb so hoher Latenz wie die frühere TPU 8t und minimalen Leistungseinbußen. Die 8i Max soll die „Memory Wall“ überwinden, die große KI-Agenten ausbremst. Durch die Kombination zweier 8i-Chips bietet sie bei gleichem Platzbedarf im Rack die doppelte SRAM-Kapazität, HBM-Bandbreite und Rechendichte. Damit können Modelle Kontextfenster mit einer Million Tokens verarbeiten.
Größerer Zusammenhang
Google folgt mit diesem Schritt ähnlichen Bemühungen von Microsoft, Amazon, OpenAI und Anthropic, eigene KI-spezifische Chips zu entwickeln und die Abhängigkeit von Nvidia-GPUs zu verringern. Nach Angaben von Google nutzen inzwischen knapp 100 Kunden die TPU-Produkte – von Forschungslaboren bis zu Einzelhändlern. Außerdem habe das Unternehmen innerhalb eines Jahres vier verschiedene TPU-Systeme vorgestellt – so viele wie nie zuvor. Die Chips sind über Google Cloud verfügbar und lassen sich auch in privaten Rechenzentren installieren.
Warum es wichtig ist
Unternehmen, die proprietäre Daten vor Ort halten müssen, können dank der integrierten Sicherheitsfunktionen der 8tx Modelle feinabstimmen, ohne diese Daten externen Servern offenzulegen. Unternehmen, die große Sprachmodelle als Agenten einsetzen, profitieren von weniger Verzögerungen, denn die 8i Max bietet bei gleichem Platzbedarf im Rack mehr Speicher und Bandbreite.
