Google hat seine Tensor-Processing-Unit-Reihe (TPU) der achten Generation erweitert. Die TPU 8tx nutzt dasselbe Silizium wie die frühere TPU 8t, ersetzt den Arm-basierten Host aber durch eine AMD-EPYC-CPU der 5. Generation und ein Boardfly-Netzwerk. Sie ist auf hardwareisolierte Inferenz für regulierte Unternehmen und Behörden ausgelegt. Die TPU 8i Max vereint zwei 8i-Chips in einem Gehäuse und verdoppelt damit Rechenleistung, SRAM und HBM-Bandbreite für Agenten mit langen Kontexten.
Warum es wichtig ist
Unternehmen, die sichere KI mit geringer Latenz benötigen, können die neue TPU 8tx ohne eigenes Hardwaredesign einsetzen. Entwickler großer Kontextfenster für Agenten erhalten im selben Formfaktor die doppelte Rechenleistung.
