美国AI基础设施峰会上提出3D堆叠架构
性能较HBM5提升8倍、能效提升3倍
三星电子面向人工智能（AI）智能体时代，推出将存储器以三维（3D）方式直接堆叠在AI加速器上的“zHBM”，并提出将现有AI系统响应速度提升10倍以上的愿景。
Kim Indong，三星电子美洲总法人（DSA）负责存储产品规划的常务，16日当地时间在美国加利福尼亚州圣克拉拉会议中心举行的“AI基础设施峰会”主题演讲中，强调了AI存储半导体的范式转变。
三星电子美洲总括法人DSA存储产品企划负责人Kim Indong常务16日当地时间在美国加利福尼亚州圣克拉拉会议中心举行的AI基础设施峰会上发表演讲。韩联社供图
View original imageKim Indong表示：“目前，对话式AI系统的响应速度仍停留在每位用户每秒100个词元左右。为应对未来智能体型AI时代，我们的目标是实现量子跃迁，将这一速度提升10倍至每秒1000个词元水平。”
为实现如此显著的性能提升，三星电子提出的核心突破口是“zHBM”。目前，行业主要采用2.5D封装方式，将高带宽存储器置于AI加速器旁并列平面排布；但受数据传输距离和通道限制影响，延迟现象被视为瓶颈。三星电子计划通过实现将HBM直接垂直堆叠在加速器上方的3D结构，彻底突破这一限制。
Kim Indong将其比喻为“在酒店客房内另行安装一部直达一层大堂的专用电梯”，并说明该方案可最大限度缩短数据移动距离及由瓶颈造成的延迟时间。据悉，zHBM较HBM5最高可实现8倍性能及3倍以上能效。对于垂直堆叠时加速器热量传导的问题，三星电子计划从产品设计初期起，通过与AI加速器客户开展定制化合作的联合设计体系加以解决。
此外，三星电子还公布了面向设备端AI市场、基于NAND闪存的三维存储设备解决方案“zNAND-O”的路线图。
Kim Indong表示：“到2030年，即便在AI工作站等环境中，而非大规模服务器，也将普遍出现自行运行参数规模达1万亿的巨型AI的案例。若仅使用动态随机存取存储器构建适配1万亿参数的存储器，成本将十分高昂；但采用zNAND-O，则可仅以六分之一的成本实现。”
三星电子计划从2028年起，正式向客户供应zNAND-O样品。Kim Indong补充称：“我们将在AI半导体竞争核心——‘上市速度’方面，为客户提供无可替代的价值。”
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
