🐟 (@stevessr) 在 高通完成HBC堆叠内存验证 中发帖
高通技术公司(Qualcomm Technologies)正通过其第一代“高通高带宽计算”(Qualcomm High Bandwidth Compute,简称 HBC)芯片推进人工智能(AI)推理技术的发展。该芯片已在公司位于圣地亚哥的实验室中,成功完成了完整的内存读写路径及近内存计算(near-memory computation)的验证。这些硬件测试结果表明,其核心技术正按预期运行;这标志着我们在为下一代 AI 推理平台构建内存基础方面迈出了重要一步。
第一代高通 HBC 芯片在具备生产级规模的条件下,完成了对完整内存读写路径及近内存计算的验证。
**
通过内存创新推动 AI 推理发展**
随着 AI 技术迈向生产应用阶段,推理系统必须解决一个核心的扩展难题:如何在实现大规模部署、支持日益强大的模型的同时,避免功耗和成本同步激增?
对于大语言模型推理而言,内存带宽是关键制...