Google扩充了第八代张量处理器(TPU)产品线。TPU 8tx采用与此前TPU 8t相同的芯片,但将基于Arm的主机处理器换成第5代AMD EPYC CPU,并配备Boardfly网络,面向受监管企业和政府部门的硬件隔离推理需求。TPU 8i Max则将两颗8i芯片整合在同一封装中,使计算能力、SRAM和HBM带宽翻倍,适用于长上下文智能体任务。
为什么重要
需要安全、低延迟AI的企业无需定制硬件设计,就能部署新的TPU 8tx;开发长上下文智能体的人员则能在相同占用空间内获得双倍处理能力。