D-Matrix正在研发Raptor,这是一款用于AI推理的第二代芯片,采用将3D DRAM堆叠在计算逻辑下方的设计。公司资深研究员Satyam Srivastava在SC26上表示,测试芯片Pavehawk正在验证这项技术,为Raptor做准备。他称Raptor计划于明年推出。
Srivastava称,堆叠式内存的带宽和能效将分别达到高带宽内存(HBM)的10倍,容量则介于HBM和SRAM之间。这些数据是公司的说法,采访中没有提供独立测试结果。D-Matrix还表示,将其Corsair加速器与Nvidia Hopper GPU搭配使用,可将利用率从约20%提高到最高80%。
为什么重要
对提供AI模型服务的企业而言,若带宽提升属实,推理硬件就有望得到更充分的利用;但目前尚无独立测试结果,Raptor的实际表现也未见披露。