谷歌云:“第六代 TPU 性能提升 4.7 倍……Kakao 也用于 LLM 训练” View original image

谷歌云对其面向人工智能(AI)训练和开发的第6代AI芯片——TPU(张量处理单元)Trillium表现出十足信心。该芯片在超大规模计算处理方面提升了效率,谷歌云称,韩国本土信息技术企业Kakao也已经在使用这一产品。


谷歌云于16日举行了Trillium培训课程。在当天活动上,谷歌云集团产品经理Mohan Pichika表示:“TPU为谷歌服务中的搜索、YouTube等面向数十亿用户提供服务的部分提供支持”,“它也被用于训练和服务兼具高性能和强大功能的Gemini 2.0”。


他接着称,“(Trillium)是迄今为止发布的产品中最强大的TPU”,“单芯片最高性能提升了4.7倍,得益于这一进步,我们能够解决愈发复杂的AI问题,并提供突破性的成果”。


TPU是谷歌自主开发的AI芯片,被评价为专门针对深度学习模型的训练与推理进行了优化,与在AI运算和图形处理等方面具有优势的英伟达图形处理器(GPU)有着不同特点。据悉,与前一代TPU相比,Trillium在训练性能方面提升超过4倍,推理吞吐量最高提升3倍,能效也提高了67%。


Pichika经理在谈到TPU与GPU的差异时表示:“GPU最初的出发点是在计算机图形领域的应用,并针对具体用途进行设计”,“它被设计为执行并行处理,适合处理海量数据。而TPU则是一种更加专业化的形态,更适合运算处理,也更适用于训练和推理等环节”。


他还进一步介绍了AI超级计算机。Pichika经理表示:“AI超级计算机是为整合AI基础设施的所有关键组成部分而设计的强大系统”,“通过优化AI工作流程,AI超级计算机能够帮助用户比以往更快速、更高效地获得惊人的结果”。


谷歌云还介绍了利用TPU的具体案例。Kakao在面向其AI整合品牌“Kanana”的大型语言模型(LLM)训练中引入了TPU。谷歌云表示:“最初通过GPU开发的Kanana面临着在资源更少的情况下快速提升模型性能的课题”,“借助开源模型和Trillium,能够在较短时间内获得具备高水平韩语应对能力的模型”。



谷歌云补充称:“Kakao从TPU第3代时期就与谷歌携手合作”,“Kakao利用TPU开发了超大规模AI语言模型KoGPT,并通过图像生成AI Karlo思考TPU与多模态(图像、视频、音频等数据同时处理技术)数据集之间的适配性”。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点