A D-Matrix está desenvolvendo o Raptor, um chip de segunda geração para inferência de IA que empilha DRAM 3D sob a lógica de computação. Satyam Srivastava, pesquisador da empresa, afirmou na SC26 que um chip de teste, o Pavehawk, está validando a tecnologia antes do Raptor, previsto, segundo ele, para o próximo ano.
Srivastava afirma que a memória empilhada oferecerá 10 vezes mais largura de banda e 10 vezes mais eficiência energética que a memória de alta largura de banda (HBM), com capacidade entre HBM e SRAM. Esses números são alegações da empresa; a entrevista não apresenta resultados de testes independentes. A D-Matrix também diz que combinar seu acelerador Corsair com GPUs Nvidia Hopper pode elevar a utilização de cerca de 20% para até 80%.
Por que importa
Para empresas que oferecem modelos de IA, os ganhos de largura de banda alegados podem ajudar a manter o hardware de inferência ocupado, mas ainda não há resultados independentes nem documentação do desempenho real do Raptor.