D-Matrix ontwikkelt Raptor, een chip van de tweede generatie voor AI-inferentie, met 3D-DRAM onder de rekenlogica. Bedrijfsfellow Satyam Srivastava zei op SC26 dat een testchip, Pavehawk, de technologie valideert voordat Raptor verschijnt. Volgens hem komt die volgend jaar uit.
Srivastava stelt dat het gestapelde geheugen 10 keer zoveel bandbreedte en 10 keer zoveel energie-efficiëntie biedt als high-bandwidth memory (HBM), met een capaciteit tussen die van HBM en SRAM in. Dit zijn claims van het bedrijf; het interview bevat geen onafhankelijke testresultaten. D-Matrix zegt ook dat een combinatie van zijn Corsair-accelerator en Nvidia Hopper-GPU’s de benutting kan verhogen van ongeveer 20% naar maximaal 80%.
Waarom het ertoe doet
Voor bedrijven die AI-modellen aanbieden, kunnen de geclaimde bandbreedteverbeteringen ervoor zorgen dat inferentiehardware beter wordt benut. Onafhankelijke resultaten en de daadwerkelijke prestaties van Raptor zijn echter nog niet gedocumenteerd.