提出AI时代服务器架构解决方案
演示内存中心型AI机架等,彰显技术实力
展出HBM4、SOCAMM2、HBF等产品
随着人工智能(AI)数据量激增,SK海力士公布了旨在从根本上解决由此引发的“数据瓶颈”的下一代内存解决方案。
SK海力士表示,公司参加了当地时间12日至15日在美国加利福尼亚州圣何塞举行的数据中心硬件技术大会“OCP全球峰会2026”(OCP Global Summit 2026),并集中发布了下一代AI内存解决方案。此次展会上,SK海力士以坚固的灰色框架和霓虹蓝灯光打造展台,将“可靠性”和“效率”可视化;展台分为前方的“内存专区”和后方的“系统演示”专区,并现场演示新型服务器系统,以彰显技术领导力。
在系统演示专区,现场依次介绍了旨在克服AI服务升级过程中出现的电力浪费和数据处理瓶颈的核心解决方案。CMM(CXL内存模块)DDR5是一种基于计算快速链路(Compute Express Link,CXL)接口标准的内存解决方案,可让多台服务器按需共享内存。此次发布的基于CXL 3.2的第二代256GB产品,带宽较上一代提升逾一倍,能效提高约30%。基于去年9月与NAVER Cloud签署的谅解备忘录,公司展示了在概念验证(Proof of Concept,PoC)阶段取得的成果,证明在智能体AI环境中共享KV(键值)缓存,以及在全模态服务“OmniServe”中共享嵌入数据的有效性。
内存中心型AI机架系统(Memory-centric AI Rack System,MARS)以内存为核心,将合作伙伴的解决方案整合到同一个机架中,从而最大限度提高数据传输效率。该系统利用CXL池化内存,将图形处理器(GPU)与服务器直接连接,与传统网络通信方式相比,大幅提升了KV缓存的重复利用速度和系统性能。系统采用动态随机存取内存(DRAM)与固态硬盘(SSD)相结合的混合架构,并验证了其高效存储和重复利用持续生成的大规模KV缓存的能力。通过基于池化内存的流式传输加速AI模型之间的数据传递,大幅缩短了服务响应延迟。
CMM-Ax是一种下一代内存,可直接在内存内部执行运算,大幅降低将数据传输至GPU所带来的电力和成本负担。此次展会证明,该产品能够加速传统GPU系统难以处理的长上下文(Long Context)运算。相关研究入选计算机体系结构领域最具权威的学术会议“国际计算机体系结构研讨会(MICRO)2026”,技术实力获得认可。
当地时间12日至15日,在美国加利福尼亚州圣何塞举行的数据中心硬件技术大会“OCP全球峰会2026”(OCP Global Summit 2026)展区内,参观者正在SK海力士展台的“系统演示”展区参观。SK海力士供图
View original image在展厅前方的内存专区,既展示了目前引领内存市场的主力产品线,也展出了下一代产品系列。在企业级固态硬盘(eSSD)领域,公司展出了高性能“PS1010 U.2”、正在开发的“PS1110 E3.S”、大容量“PS1101 E3.S”,以及支持液体冷却(DLC)的数据中心产品“PEB210 E1.S”和“PEB210 M.2 2280”等面向客户需求的产品。在服务器DRAM方面,公司展出了业界容量最大的256GB三维堆叠封装(3DS)服务器用双列直插式内存模块(RDIMM)DDR5、96GB/64GB DDR5 RDIMM、128GB DDR5多路复用RDIMM(MRDIMM),以及提升电力和空间利用效率的192GB小型压缩附加内存模块(SOCAMM)2。
展台还陈列了英伟达下一代“Vera Rubin超级芯片”模型,并设置体验区,让观众亲手将高带宽内存(HBM)4和SOCAMM2安装到服务器模型上。通过放大至实物100万倍的HBM模型和显示器,展台介绍了核心制造技术——硅通孔(TSV)以及先进质量回流模塑底部填充(MR-MUF)在散热和控制翘曲方面的优势,并将不同代际的HBM3、HBM4和HBM4E实物进行对比展示。
高带宽闪存(HBF)是一种下一代解决方案,通过将TSV技术应用于NAND闪存,在保留传统存储设备大容量特性的同时提升带宽。SK海力士提出分层运用内存的策略:在需要快速响应的场景中使用HBM,在需要大容量内存以服务众多用户的AI推理场景中使用HBF。
活动期间举行的主题演讲中,SK海力士也分享了技术建议。负责内存系统研究的副总裁Kim Hosik在以MARS为主题的演讲中指出,以CPU和GPU为中心的传统架构正因功耗和瓶颈而面临“内存墙”的限制。他强调,公司将通过基于CXL技术的MARS,从根本上解决智能体AI的KV缓存重复利用、多模态全模型响应加速,以及图神经网络(GNN)训练过程中的非规律内存访问问题。
负责内存架构的副总裁Joo Youngpyo强调了连接生态系统内客户与产品的软件框架的重要性,以及推动标准化的必要性。AI系统基础设施团队负责人Kim Jongryul则介绍了基于共享内存的令牌共享(Token Sharing)和KV缓存共享技术,称其有助于提升智能体AI性能。
SK海力士表示:“此次OCP全球峰会意义重大,我们能够直接展示下一代内存解决方案在实际系统中的运行方式。今后,我们也将持续推进技术创新,以内存为核心,推动AI技术不断发展。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。