2023年“Maia 100”发布后时隔3年公开
基于台积电3纳米工艺…采用HBM3e内存
推理效率更高…“每美元性能提升30%”
自研SDK同步亮相…瞄准英伟达CUDA
微软(Microsoft)27日表示,已公开一款提升人工智能(AI)推理任务效率的AI加速器“Maia 200”。Maia 200将用于支持微软云平台Azure环境中AI推理模型的运行。
Maia 200基于台积电(TSMC)的3纳米工艺,具备针对高性能AI推理优化的架构。其将带宽达每秒7TB、容量为216GB的HBM3e内存系统,与原生FP8/FP4张量核心以及数据移动引擎整合在一起。微软称,通过这一设计,可为超大规模模型提供优化的推理性能。
在实际运算性能方面,该产品也领先于竞争对手的AI加速器。以4比特精度(FP4)为基准,Maia 200的吞吐量是亚马逊网络服务(AWS)自研AI芯片Amazon Trainium第三代的3倍;在8比特精度(FP8)下,其性能也超过了谷歌第七代张量处理单元(TPU)。
运算效率也得到提升。微软首席执行官(CEO)Satya Nadella表示:“这款产品为实现业界最高的推理效率而设计,相比现有系统,其单位美元性能高出30%。”
为应对大规模AI运算,Maia 200集成了逾1400亿个晶体管。微软表示,这不仅可以支持大规模模型的运行,还预留了足够性能以驱动下一代模型。同时,为解决数据供给瓶颈问题,微软对内存子系统进行了全面重新设计,从而优化了Token吞吐量。
在数据中心的安装与运营流程方面也进行了优化。通过对后端网络和液冷系统的提前验证与集成,从Maia 200到货到部署至数据中心的时间,较以往缩短了一半以上。
Maia 200支持包括OpenAI最新模型GPT-5.2在内的多种模型。微软计划将Maia 200投入自家模型改进和强化学习中,通过提升高质量领域数据的生成与过滤速度,在后续训练中发挥关键作用。
目前,Maia 200已经部署在美国爱荷华州的微软数据中心。此后还将部署在亚利桑那州菲尼克斯的数据中心,面向Azure云服务客户提供。
微软推出自研芯片,是继2023年11月公开“Maia 100”后时隔两年多的再次动作。不过,Maia 100仅部署在微软Azure云内部使用,未对外商用,对市场的影响有限。当时业界普遍认为,微软在自研芯片市场上的进展落后于竞争对手亚马逊和谷歌。
业内认为,Maia 200实际上可视为微软首款真正实现商用的芯片。微软预计将通过Maia 200降低对英伟达图形处理器(GPU)的依赖。
与此同时,微软还发布了用于支持模型应用的“Maia 200软件开发工具包(SDK)”预览版。该软件开发工具包对应英伟达CUDA软件,被视为将发挥扩展Maia 200软件生态系统的作用。CUDA是英伟达面向AI开发者的工具,支持利用GPU进行AI运算。英伟达正通过CUDA构建其自有的AI开发生态。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。