Oossa

Google推出TPU 8tx与TPU 8i Max,分别面向安全推理和长上下文智能体

新芯片将两颗8i整合在一起,或将TPU与AMD EPYC CPU搭配,用于受监管的工作负载。

简讯作者: Oossa 发布日期: 1 分钟阅读

Google扩充了第八代张量处理器(TPU)产品线。TPU 8tx采用与此前TPU 8t相同的芯片,但将基于Arm的主机处理器换成第5代AMD EPYC CPU,并配备Boardfly网络,面向受监管企业和政府部门的硬件隔离推理需求。TPU 8i Max则将两颗8i芯片整合在同一封装中,使计算能力、SRAM和HBM带宽翻倍,适用于长上下文智能体任务。

为什么重要

需要安全、低延迟AI的企业无需定制硬件设计,就能部署新的TPU 8tx;开发长上下文智能体的人员则能在相同占用空间内获得双倍处理能力。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。