D-Matrix entwickelt Raptor, einen KI-Inferenzchip der zweiten Generation, bei dem 3D-DRAM unterhalb der Rechenlogik gestapelt wird. Satyam Srivastava, Fellow des Unternehmens, sagte auf der SC26, ein Testchip namens Pavehawk prüfe die Technologie vor dem Raptor, der seinen Angaben zufolge nächstes Jahr erscheinen soll.
Srivastava zufolge bietet der gestapelte Speicher die zehnfache Bandbreite und Energieeffizienz von High-Bandwidth Memory (HBM) und eine Kapazität zwischen HBM und SRAM. Diese Werte sind Angaben des Unternehmens; im Interview werden keine unabhängigen Testergebnisse genannt. D-Matrix erklärt außerdem, dass sich die Auslastung durch die Kombination seines Corsair-Beschleunigers mit Nvidia-Hopper-GPUs von etwa 20% auf bis zu 80% steigern lässt.
Warum es wichtig ist
Für Unternehmen, die KI-Modelle betreiben, könnten die behaupteten Bandbreitengewinne dazu beitragen, Inferenzhardware besser auszulasten. Unabhängige Ergebnisse und die tatsächliche Leistung von Raptor sind bislang jedoch nicht dokumentiert.