D-Matrix разрабатывает Raptor — чип второго поколения для ИИ-инференса, в котором 3D DRAM расположена под вычислительной логикой. На конференции SC26 представитель компании Сатьям Шривастава сообщил, что технологию проверяют на тестовом чипе Pavehawk перед выпуском Raptor, который, по его словам, ожидается в следующем году.
Шривастава утверждает, что память с такой компоновкой обеспечит в 10 раз большую пропускную способность и в 10 раз более высокую энергоэффективность, чем память с высокой пропускной способностью (HBM), а её ёмкость будет занимать промежуточное положение между HBM и SRAM. Это заявления компании: в интервью не приводятся результаты независимых испытаний. D-Matrix также заявляет, что связка ускорителя Corsair с графическими процессорами Nvidia Hopper может повысить загрузку примерно с 20% до 80%.
Почему это важно
Заявленный рост пропускной способности может помочь компаниям, обслуживающим ИИ-модели, эффективнее загружать оборудование для инференса. Однако независимых результатов испытаний и данных о реальной производительности Raptor пока нет.