升温的AI半导体“得先降温才活得下去”…HBM与发热之战拉开序幕[芯片Talk]

by Park Joonyi

Published 30 May.2026 08:00(KST)

Updated 30 May.2026 15:09(KST)

open/close

堆叠越高热量越难散的HBM
比起速度更看重温度，专注研发冷却技术
三大存储厂商展开低功耗与冷却技术竞争

随着人工智能（AI）半导体市场的扩大，高带宽存储器（HBM）竞争的核心正从速度转向温度管理。由于图形处理器（GPU）性能急剧提升且HBM堆叠层数不断增加，发热问题已成为左右下一代HBM技术竞争力的关键变量。

升温的AI半导体“得先降温才活得下去”…HBM与发热之战拉开序幕[芯片Talk]

30日据半导体业界消息，三星电子、SK海力士、美光等全球存储厂商，近期在开发下一代HBM的过程中，正集中力量攻关散热与能效技术。因为不仅要提升数据处理速度，更关键的是如何高效控制热量，这将直接决定下一代AI半导体的性能。

尤其是英伟达和AMD等AI半导体客户，据悉最近正要求HBM供应商强化发热管理和低功耗设计。AI加速器性能越高，功耗和发热也随之增加，如果热量得不到有效控制，就可能引发性能下降和稳定性问题。HBM是将多层D-RAM层层堆叠的结构，以往主要依赖通过核心芯片将热量向外排出的方式来散热。

业界实际上认为，HBM发热问题已不再只是存储厂商单独面对的课题，而是在向整个AI半导体生态系统的共同课题扩散。近期英伟达面向下一代AI服务器的GPU，在单芯片基础上的功耗已经从数百瓦上升到接近1000瓦。与GPU一同封装的HBM也必须以更快速度处理更多数据，发热负担自然随之加重。

尤其是从第五代HBM（HBM3E）开始，发热问题被普遍预期将正式上升为技术瓶颈。由于堆叠结构的特性，D-RAM堆得越高，内部热量越难排出，未来随着HBM4E、HBM5等下一代产品的推出，热量控制的重要性将进一步提升。

三大存储厂商各显神通，全力投入“散热解决方案”

因此，HBM的竞争格局也正从传统的存储性能之争，转变为先进封装与冷却技术之争。当前，存储厂商为开发高性能HBM争相投入的核心技术之一是“混合键合”（Hybrid Bonding）。混合键合不同于在芯片之间设置微凸点（Micro Bump，小突起形态的连接部位）并通过热压（TC）键合的传统方式，而是省去凸点，直接将铜与绝缘层对接。由于可以减薄芯片厚度，又能避免热量被困在芯片之间，散热效果更好，因此业界普遍认为，HBM堆叠层数越高，该技术越受青睐。

各家存储厂商在此类技术基础上，也在集中开发自有的低功耗与冷却技术。SK海力士近期公开了面向下一代HBM5的冷却技术“iHBM”。其方式是在HBM封装内部插入冷却元件（ICE），以增加热量排出路径。该公司计划通过这种方式，将相较以往的热阻特性改善30%以上，从而应对高性能AI半导体环境。

三星电子同样在下一代HBM中导入自有的低功耗设计和混合键合技术。其最近公开的HBM4E产品，也将提升能效和改善热阻特性作为重点。三星电子在宣布提供HBM4E（第七代）12层样品时表示：“我们集成了低功耗设计与封装结构优化技术，与前代产品相比，能效提升了16%，热阻特性也大幅改善超过1%。”此外，根据三星电子近期公开的半导体封装技术路线图，最快将从HBM4E开始正式导入混合键合。

美光也凭借低功耗HBM加快进军AI服务器市场的步伐。其代表性技术是利用硅通孔（TSV）的沟槽冷却方式。硅沟槽冷却技术是在AI加速器芯片内部的硅芯片上刻出微小沟槽（Trench），再让冷却液体沿着这些通道循环，以降低芯片内部的高温，是一种散热技术。美光正通过申请相关技术专利，着力构建长期性的冷却解决方案。