相比H100容量提升3.6倍、带宽提升2.4倍
高效处理超大规模AI模型

Samsung SDS在国内率先推出基于NVIDIA最新图形处理器(GPU)的GPU订阅式服务(GPU即服务,GPU as a Service,GPUaaS)。企业客户可按使用量付费,一方面节省成本,另一方面还能在超大规模云计算服务商水平上运行人工智能(AI)。

Samsung SDS推国内首个基于英伟达B300的订阅式GPU服务 View original image

Samsung SDS于23日表示,已在Samsung Cloud Platform(SCP)上推出基于NVIDIA最新GPU“B300”的GPUaaS服务。该服务无需企业自行采购或运营GPU,即可在云端按需使用GPU资源,反映了在积极扩展AI的企业中,对高性能计算需求激增的市场环境。


NVIDIA B300 GPU搭载12层高带宽内存HBM3E,为每块GPU提供288GB内存容量和每秒8TB带宽,在需要复杂运算的AI推理领域,相比H100,其容量提升至3.6倍、带宽提升至2.4倍,内存性能大幅增强。由此,企业利用SCP B300 GPUaaS,在运行大规模语言模型(LLM)时出现的数据瓶颈现象将得到革命性改善。


Samsung SDS表示,企业通过应用SCP B300 GPUaaS,可以高效处理超大规模AI模型。尤其是在AI智能体、图像·视频·代码生成及分析等领域,可缩短AI服务的延迟时间。企业采用“按需使用、按量付费”的订阅模式,在降低前期投资风险的同时,即使在GPU供应紧张的情况下,也能即时导入最新GPU,这是一大优势。

Samsung SDS推国内首个基于英伟达B300的订阅式GPU服务 View original image

GPUaaS市场今后预计仍将保持持续增长态势。Fortune Business Insights预测,全球GPUaaS市场规模到2032年为止,年均复合增长率将高达35.8%。


Samsung SDS计划在今年第三季度推出“无服务器推理服务”,该服务无需另行支付基础设施使用费,仅按使用的令牌数量计费;同时还将推出“AI训练服务”,企业只需输入代码和数据,系统即可自动对AI进行分布式训练。



Lee Hojun,Samsung SDS云服务事业部负责人表示:“我们将依托Samsung Cloud Platform在资源优化、节能降耗等方面的GPU效率化能力,向大型企业、中坚·中小企业以及公共机构等希望在业务中导入AI的客户提供B300 GPU服务,支持其实现人工智能转型(AX)。”


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点