提供共7656张英伟达B200图形处理器
"通过水冷方式维持图形处理器高性能"
"升级电力、冷却、网络和服务器设计"

“提供共计7656块英伟达图形处理器B200资源的‘NHN Factory X首尔’是韩国国内规模最大的设施,采用水冷方式,能够稳定降低高性能图形处理器的发热量。”


提供共计7656块英伟达图形处理器B200资源的NHN Factory X Seoul内部景象。NHN Cloud供图。

提供共计7656块英伟达图形处理器B200资源的NHN Factory X Seoul内部景象。NHN Cloud供图。

View original image
[现场]探访汇聚超7000块高性能GPU的最大规模设施NHN Factory X Seoul View original image

8月7日,最高气温达38摄氏度,酷暑来袭。在位于首尔杨平洞三街市中心、紧邻公寓小区的NHN Cloud人工智能数据中心NHN Factory X首尔内部,高性能图形处理器在凉爽环境中发出“嗡嗡”声,繁忙运转。NHN Factory X首尔所在的数据中心共10层,数据大厅分布于3层至10层,NHN Cloud目前使用3层至6层。其中,3层至5层用于运行政府人工智能计算资源,3层和4层的4080块图形处理器已接入一个统一集群环境。借此,大规模图形处理器资源可如同单一计算环境般使用。


进入数据中心6层后,8米高的层高格外醒目。据介绍,由于层高越高越便于散热,因此为冷却图形处理器服务器及存储设备等产生的热量,设施采用了较高层高设计。


NHN Cloud于2025年被选定为科学技术信息通信部推进的“图形处理器采购、建设及运营支持项目”主要运营方。基于由此获得的7656块英伟达B200图形处理器,公司建设了由4080块图形处理器、510个节点组成的“NIPA-CL1”集群,以及由2040块图形处理器、255个节点组成的“NIPA-CL2”集群。其中,NIPA-CL1今年6月在“全球超级计算机TOP500”榜单中位列全球第20名,创下韩国国内最高排名。

“NHN Factory X首尔”上部水冷管道。NHN Cloud供图。

“NHN Factory X首尔”上部水冷管道。NHN Cloud供图。

View original image

NHN Factory X首尔的特点是,为应对高性能图形处理器高度集成的人工智能计算环境,采用了直接液冷方式。随着生成式人工智能以及大规模人工智能模型训练和推理需求不断扩大,数据中心需要配备计算性能远高于以往的图形处理器服务器。高性能图形处理器不仅耗电量大,还会产生大量热能,因此掌握高效冷却技术成为关键。


从数据中心上方望去,多条水冷管道并列延伸。管道内充满冷却水,可为数据中心降温。人工智能数据中心需要在有限空间内配置更多图形处理器并确保更高计算性能,仅依靠传统风冷方式已难以应对不断增加的发热量。据介绍,由于水的重量也相当可观,设计人工智能数据中心时,必须确保结构能够承受冷却水及设备的全部负载。


直接液冷方式通过与服务器内图形处理器和中央处理器等发热部件直接接触的冷板,使冷却液吸收并带走热量。传统风冷方式通过空气流动降低设备温度,而水冷方式则利用导热效率更高的液体,应对高密度、高发热环境。例如,采用风冷时,B200需要14.3千瓦电力;采用水冷后,耗电量可降至12.3千瓦。NHN Cloud在光州和首尔运营人工智能数据中心的结果显示,水冷方式的故障发生率也低于风冷方式。水冷的噪声同样远低于风冷,即使在摆满服务器机架的走廊内,也能轻松交谈。



[现场]探访汇聚超7000块高性能GPU的最大规模设施NHN Factory X Seoul View original image

记者到访的监控室内,工作人员全天候值守,24小时监测数据中心主要设备及信息技术基础设施状态。白天有3人、夜间有2人实时确认图形处理器服务器状态、集群运行情况及网络连接状态等。NHN Cloud技术事业部负责人、董事Lee Iljun表示:“人工智能数据中心是针对利用大规模图形处理器开展人工智能训练和推理的工作负载,对供电、冷却、网络和服务器设计进行升级的设施,监测体系十分重要。若冷却液未能及时供应,或冷却液温度过高,图形处理器性能就会下降,甚至可能自行关机,因此我们也高度重视对冷却液的监测。”


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点