D-Matrix está desarrollando Raptor, un chip de segunda generación para inferencia de IA que apila DRAM 3D bajo la lógica de cómputo. Satyam Srivastava, investigador de la compañía, dijo en SC26 que un chip de prueba, Pavehawk, está validando la tecnología antes de Raptor, cuyo lanzamiento, según indicó, está previsto para el año que viene.
Srivastava sostiene que la memoria apilada ofrecerá 10 veces más ancho de banda y 10 veces más eficiencia energética que la memoria de alto ancho de banda (HBM), y tendrá una capacidad intermedia entre la HBM y la SRAM. Esas cifras son afirmaciones de la compañía; la entrevista no presenta resultados de pruebas independientes. D-Matrix también afirma que combinar su acelerador Corsair con GPU Nvidia Hopper puede elevar la utilización de alrededor del 20% hasta un 80%.
Por qué importa
Para las empresas que ofrecen modelos de IA, las mejoras de ancho de banda anunciadas podrían ayudar a mantener ocupado el hardware de inferencia, pero aún no se han documentado resultados independientes ni el rendimiento real de Raptor.