D-Matrix sta sviluppando Raptor, un chip di seconda generazione per l’inferenza AI che colloca la DRAM 3D sotto la logica di calcolo. Satyam Srivastava, fellow dell’azienda, ha dichiarato a SC26 che un chip di prova, Pavehawk, sta convalidando la tecnologia in vista di Raptor, atteso il prossimo anno.
Secondo Srivastava, la memoria impilata offrirà una larghezza di banda e un’efficienza energetica 10 volte superiori a quelle della memoria ad alta larghezza di banda (HBM), con una capacità compresa tra HBM e SRAM. Si tratta di dati dichiarati dall’azienda: l’intervista non riporta risultati di test indipendenti. D-Matrix afferma inoltre che abbinare il suo acceleratore Corsair alle GPU Nvidia Hopper può aumentare il tasso di utilizzo da circa il 20% fino all’80%.
Perché conta
Per le aziende che eseguono modelli AI, i miglioramenti dichiarati della larghezza di banda potrebbero contribuire a mantenere occupato l’hardware per l’inferenza, ma non sono ancora documentati né risultati indipendenti né le prestazioni effettive di Raptor.