D-Matrix utvecklar Raptor, ett andra generationens chip för AI-inferens där 3D-DRAM staplas under beräkningslogiken. Företagets tekniska expert Satyam Srivastava sade på SC26 att ett testchip, Pavehawk, används för att validera tekniken inför Raptor, som enligt honom ska lanseras nästa år.
Srivastava hävdar att det staplade minnet ska erbjuda 10 gånger högre bandbredd och 10 gånger bättre energieffektivitet än minne med hög bandbredd (HBM), med en kapacitet mellan HBM och SRAM. Siffrorna kommer från företaget; intervjun innehåller inga oberoende testresultat. D-Matrix uppger också att en kombination av företagets Corsair-accelerator och Nvidia Hopper-GPU:er kan öka utnyttjandegraden från cirka 20% till så mycket som 80%.
Varför det spelar roll
För företag som kör AI-modeller kan den påstådda ökningen av bandbredd bidra till att hålla inferenshårdvaran sysselsatt, men oberoende testresultat och Raptors faktiska prestanda har ännu inte dokumenterats.