人工智能工厂,是面向“大规模部署”的数据中心
CPU与GPU比例几乎趋于对等
专门支持人工智能微调的设施

编者注从人工智能、半导体、通信到生物技术,我们将把这些生活中必不可少却又十分陌生的技术故事,用浅显易懂的方式讲给您听。

英伟达首席执行官 Jensen Huang 在此次访韩行程中公开了建设“人工智能(AI)工厂”的计划。若该计划落地,未来5年有望吸引规模达数百兆韩元的数据中心投资。


Nvidia首席执行官 Jensen Huang 正在首尔三成洞街头向市民分发炸鸡。Kim Jinyoung 供图

Nvidia首席执行官 Jensen Huang 正在首尔三成洞街头向市民分发炸鸡。Kim Jinyoung 供图

View original image

AI工厂乍看之下与数据中心并无太大差别。因为它同样是由图形处理器、中央处理器、内存等构成的设施。不过,AI工厂与迄今科技巨头建设的计算设施存在重要差异。此前的AI基础设施主要集中于研发,而AI工厂则开始为大规模部署做准备。


AI工厂有何不同……硬件构成比例不同


AI工厂是英伟达雄心勃勃规划的数据中心解决方案。据其官网介绍,其目的是“加速全栈AI基础设施和软件”,并“部署AI”。


正在调整服务器机架的英伟达工程师。英伟达供图

正在调整服务器机架的英伟达工程师。英伟达供图

View original image

因此,AI工厂与一般AI数据中心在“计算机芯片构成比例”上有所不同。迄今为止,AI数据中心主要是训练设施。也就是说,其用途是对AI模型进行海量数据集的预训练。由于训练任务需要大量加速运算的图形处理器,因此对图形处理器的需求远高于中央处理器。每1个中央处理器配备4至8个图形处理器的数据中心也很常见。


相比之下,AI工厂以部署为中心,也就是聚焦AI代理运行。英伟达为下一代AI工厂准备的Rubin平台,将最新中央处理器与图形处理器的比例调整为1:1或1:2。该公司甚至还销售专门搭载Vera中央处理器、用于运行AI代理的独立服务器机架。


让AI成为特定业务专家……专长“微调”的数据中心


AI工厂的另一大特点在于软件。AI工厂是专门支持微调的数据中心。一般的大型语言模型虽然像“万事通”一样学习了海量数据集,但要将其投入需要高门槛专业知识的领域并不容易。因此,若想让AI针对特定专业领域实现优化,就必须经过微调。


英伟达下一代Vera Rubin平台核心组件Vera中央处理器、Rubin图形处理器及其他构成芯片。英伟达供图

英伟达下一代Vera Rubin平台核心组件Vera中央处理器、Rubin图形处理器及其他构成芯片。英伟达供图

View original image

例如,医疗AI若要提供稳定的医疗建议,就需要能够接触部分医院独有的敏感患者数据。法律AI、制造业AI也分别需要学习判例数据、制造工艺参数等。像这样,经过微调的AI是基于仅由特定企业或专家持有的“专有数据”进行训练的。


这也是 Huang 首席执行官看好韩国将成为“物理AI中心”的原因。韩国制造业发达,在反复开展制造工序的过程中积累了大量图像和数值资料。若将这些资料加工为高质量数据集,并通过AI工厂进行训练,今后就有望打造出能够承担多种制造任务的AI。



另一方面,Huang 首席执行官于本月8日与SK海力士、SK电讯、SK集团等共同发布构想,计划未来建设总规模达5吉瓦的AI工厂。预计每建设一座耗电规模为1吉瓦的AI工厂,设施成本约需600亿美元(约91万亿韩元)。这意味着,若要完成该构想,最多需要投入3000亿美元(约457万亿韩元)资本。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。

不容错过的热点