Google ha ampliato la sua linea di ottava generazione di Tensor Processing Unit (TPU). La TPU 8tx usa lo stesso silicio della precedente TPU 8t, ma sostituisce il sistema host basato su Arm con una CPU AMD EPYC di 5ª generazione e una rete Boardfly, puntando a offrire inferenze isolate a livello hardware per aziende e governi soggetti a normative. La TPU 8i Max integra due chip 8i in un unico package, raddoppiando la potenza di calcolo, la SRAM e la larghezza di banda HBM per gli agenti che operano su contesti lunghi.
Perché conta
Le aziende che hanno bisogno di IA sicura e a bassa latenza possono implementare la nuova TPU 8tx senza progettare hardware su misura, mentre gli sviluppatori di agenti che gestiscono contesti ampi ottengono il doppio della potenza di elaborazione nello stesso ingombro.