Google har utökat sin åttonde generation av Tensor Processing Unit (TPU). TPU 8tx använder samma kisel som den tidigare TPU 8t, men byter ut värdprocessorn med Arm-arkitektur mot en AMD EPYC-processor av 5:e generationen och ett Boardfly-nätverk. Kretsen riktar sig till reglerade företag och myndigheter som behöver inferens med hårdvarubaserad isolering. TPU 8i Max samlar två 8i-kretsar i samma kapsel och fördubblar beräkningskapaciteten, SRAM-minnet och HBM-bandbredden för agentarbete med långa kontexter.
Varför det spelar roll
Företag som behöver säker AI med låg latens kan använda nya TPU 8tx utan att ta fram specialanpassad hårdvara. Samtidigt får utvecklare av agenter som hanterar långa kontexter dubbel processorkraft på samma utrymme.
