🐟 (@stevessr) 在 d-Matrix 将 AI 加速器直接堆叠在定制 DRAM 上，单卡吞吐量达 100 TB/s——台积电 4nm 计算芯片以 36 微米间距面对面键合在定制芯片上中发帖[!quote]+ [image] d-Matrix 本周在Hot Chips 2026上展示了 Raptor，称其为首款用于生成推理的 3D DRAM 加速器

🐟 (@stevessr) 在 d-Matrix 将 AI 加速器直接堆叠在定制 DRAM 上，单卡吞吐量达 100 TB/s——台积电 4nm 计算芯片以 36 微米间距面对面键合在定制芯片上中发帖

[!quote]+ 
 [image] 
d-Matrix 本周在Hot Chips 2026上展示了 Raptor，称其为首款用于生成推理的 3D DRAM 加速器。Raptor 采用台积电 4nm 计算芯片，以 36 微米间距面对面键合在定制设计的 DRAM 芯片上，每张卡 32GB 可提供 100 TB/s 的带宽。 
联合创始人兼首席技术官 Sudeep Bhoja 表示，垂直接口的能耗为 0.37 pJ/bit，而将数据传输到 HBM4 基片的能耗约为 2.4 pJ/bit。他称这是从实际运行的硅芯片上“测量得出的数值”。此外，与不列颠哥伦比亚大学合作撰写的ISCA 2026 论文预测，该接口的单卡吞吐量将比基于 HBM 的设计高出约 4.7 倍。不过，Bhoja 并未透露 DRAM 芯片的制造商。 
 [image] 
CEO Sid Sheth 在 6 月份告诉 CNB...