D-Matrix développe Raptor, une puce d’inférence pour l’IA de deuxième génération qui empile de la DRAM 3D sous sa logique de calcul. Satyam Srivastava, fellow de l’entreprise, a déclaré à SC26 qu’une puce de test, Pavehawk, sert à valider la technologie avant Raptor, dont la sortie est prévue l’an prochain, selon lui.
Srivastava affirme que la mémoire empilée offrira une bande passante et une efficacité énergétique 10 fois supérieures à celles de la mémoire à bande passante élevée (HBM), avec une capacité située entre la HBM et la SRAM. Ces chiffres sont avancés par l’entreprise ; l’entretien ne fournit aucun résultat de test indépendant. D-Matrix indique également que l’association de son accélérateur Corsair aux GPU Nvidia Hopper peut faire passer le taux d’utilisation d’environ 20 % à 80 % au maximum.
Pourquoi c'est important
Pour les entreprises qui servent des modèles d’IA, les gains de bande passante annoncés pourraient aider à mieux exploiter le matériel d’inférence. Mais les résultats indépendants et les performances réelles de Raptor ne sont pas encore documentés.