将芯片与存储器距离扩大一倍的芯粒技术
串联20颗HBM,瞄准存储容量最大化
随着人工智能企业之间的竞争加剧,作为核心部件的存储器正出现供不应求的状况。在此背景下,因ChatGPT而知名的OpenAI公开了一项将20颗高带宽存储器(HBM)串联起来的“怪物芯片”专利,有观点认为,这将可能进一步加剧存储器短缺。
OpenAI于本月9日(当地时间)向美国专利商标局提交了与半导体相关的专利申请。该专利题目为“通过嵌入式逻辑桥连接的非相邻HBM芯粒与输入输出(I/O)芯粒以及计算芯粒”,内容涉及一种将多种芯片整合成一个整体的后工序技术——“芯粒”(Chiplet)。
芯粒本身并不是新技术。英伟达、苹果、英特尔、超微半导体等半导体企业早已利用芯粒技术,将多个芯片像乐高积木一样组装在一起,以最大化性能。不过,OpenAI在这项专利中,实现的是“最多可串联20颗HBM的芯粒”。
目前,英伟达的图形处理单元(GPU)通常在一颗芯片上串联4至8颗HBM,以构建外部存储器。如果能在一颗芯片上连接20颗HBM,那么就相当于诞生了一款与英伟达GPU相比至少具备2倍以上存储容量的超级AI芯片。
半导体企业一直坚持在AI芯片四周连接HBM,以扩展存储容量,但这类设计存在物理极限。依据国际标准化组织JEDEC的规定,为防止信号衰减(距离越远通信信号越不稳定的现象),芯片与存储器之间的连接距离被限制在6毫米之内。
OpenAI的芯粒专利通过搭载名为“嵌入式逻辑桥”的有源电路,将这一连接距离从6毫米大幅延长至16毫米。借此,即便不直接贴合在AI芯片周围,也能“连接”HBM。从OpenAI描绘的设计图来看,以核心芯片为中心,数十颗HBM向外延展,形成类似集群的结构。
不过,要将该芯片真正落地,除了连接限制之外,似乎还要跨越诸多技术难关。例如,必须解决数十颗芯片同时连接时产生的严重散热问题。
另一方面,OpenAI自去年10月起便与美国半导体设计企业博通携手开发定制AI芯片。据悉,OpenAI计划在自家芯片上搭载三星电子的HBM4产品。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。