美国“The Six Five Summit”演讲
"三星销售的不是位,而是带宽"
"以内存为中心的计算日益重要"

三星电子提出,内存带宽是人工智能(AI)时代的核心竞争力,并预计下一代高带宽内存(HBM)zHBM将于2029年以后提前亮相。


三星电子半导体部门美洲法人负责人、副社长Cho Sangyeon于27日当地时间在线出席美国信息技术(IT)会议“The Six Five Summit 2026”,并发表上述观点。


Cho Sangyeon在一场时长30分钟、主题为“重新定义AI边界:三星的内存、电力与系统设计”的对谈中指出:“业界尚未充分理解,对于AI推理服务而言极为关键的‘组织每秒所需的词元数量’,是由内存带宽决定的。”


他解释称,反映数据可在内存与计算设备之间移动速度的内存带宽,将左右用户数量、请求数量、响应速度、上下文保留及吞吐量等指标。这不仅决定AI系统能够提供何种水平的服务,也会影响实现这些服务所需的成本。


Cho Sangyeon,三星电子半导体DS部门美洲总管法人DSA负责人。The Six Five Summit X账号截图。

Cho Sangyeon,三星电子半导体DS部门美洲总管法人DSA负责人。The Six Five Summit X账号截图。

View original image

他接着表示:“三星销售的不是‘位’(bit,数据单位),而是‘带宽’。4年后能够成功的应用程序,并非内存容量最大的应用程序,而是懂得如何运用自身内存带宽的应用程序。”


因此,他提出以内存为起点设定所需带宽、并寻找高效利用方案的“以内存为中心的计算”作为替代方案。他表示,过去通常先确定计算资源、再设定内存容量,随后检讨封装和供电问题;今后则应颠倒这一顺序,优先考虑内存。


在提升内存带宽的产品方面,他提到了三星电子近日介绍的zHBM。不同于将高带宽内存(HBM)连接在负责计算的AI加速器(xPU)旁边的传统方式,zHBM采用直接在加速器上堆叠HBM的架构,可最大限度缩短数据移动距离,从而实现带宽最大化。


他表示:“目前正在定义第一代zHBM规格,预计基于该规格的未来产品将在2029年以后问世。”这一时间表比市场此前预计约于2030年实现商业化的预测提前了1年。


不过,他将发热问题列为该产品研发过程中必须解决的主要课题,并补充称,三星正为此采用混合铜键合(HCB)等技术。


Cho Sangyeon还将先进封装列为与内存带宽一道日益重要的领域。他解释称,仅依靠制程微缩已难以提升AI所要求的性能与能效,因此,将多个裸片、内存及不同制程节点整合为一个系统的封装技术正变得愈发重要。


他强调:“部分企业将基底裸片委托外部生产,并管理不同制程之间的交接;而三星则直接管理整合流程,以在系统、芯片和内存等所有层面实现设计目标。”例如,仅以HBM4而言,三星便可在内部使用先进4纳米制程设计基底裸片,并一站式管理组装与封装,从而优化能效、信号完整性、性能、带宽等整个系统层面的目标。



此外,Cho Sangyeon还表示,三星计划在未来数年内启动位于美国得克萨斯州泰勒市的第二座半导体生产工厂“泰勒晶圆厂2”,扩大包括2纳米在内的先进制程节点产能,并支持美国客户。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点