在国内开发出了一项比英伟达推理速度快2.1倍的人工智能(AI)半导体技术。该技术的核心在于解决图预处理(Graph Preprocessing)过程中的瓶颈现象,从而提升推理速度。


KAIST(카이스트)表示,电气及电子工程系研究团队在教授 Jung Myungsoo 带领下,开发出一项大幅提升图神经网络(Graph Neural Network·GNN)基础上 AI 推理速度的AI半导体技术“AutoGNN(오토GNN)”,并于5日对外公布。


(下排自左起)KAIST 教授 Jung Myungsoo,电气与电子工程学系博士课程 Kang Seungkwan,博士课程 Lee Seungjun;(上排自左起)Panacea 株式会社所属 Kwon Miryeong,Jang Junhyuk,Lee Sangwon。KAIST 提供

(下排自左起)KAIST 教授 Jung Myungsoo,电气与电子工程学系博士课程 Kang Seungkwan,博士课程 Lee Seungjun;(上排自左起)Panacea 株式会社所属 Kwon Miryeong,Jang Junhyuk,Lee Sangwon。KAIST 提供

View original image

图神经网络是用于推荐 YouTube 视频或进行金融诈骗探测等,对人与人之间复杂关系进行快速分析的核心AI技术。这里的“图”并非图片,而是指人与人之间的连接关系。研究团队开发的 AutoGNN 相比英伟达大幅降低了延迟,使推荐速度提升至2.1倍,同时还降低了电力消耗,被视为其优势所在。


在 AutoGNN 的开发过程中,研究团队发现,AI 推理之前阶段的图预处理是导致服务延迟的主要原因。图预处理占据总体计算时间的70%至90%,但现有图形处理器在整理复杂关系结构的运算上存在局限,因而产生瓶颈现象。


AI 生成图像。KAIST 提供

AI 生成图像。KAIST 提供

View original image

为了解决这一问题,研究团队设计了可根据输入数据结构实时改变半导体内部电路的“自适应AI加速器”技术。半导体会根据待分析数据的连接方式,自主寻找并切换为最高效的结构。


研究团队还在半导体内部实现了只筛选所需数据的 UPE 模块,以及对数据进行快速整理和汇总的 SCR 模块。当数据的量或形态发生变化时,系统会自动应用与之匹配的最优模块配置,从而在任何情况下都能保持稳定性能。


结果显示,在性能评估中,AutoGNN 的处理速度比英伟达的高性能图形处理器 RTX 3090 快2.1倍,相比普通中央处理器则快9倍。研究团队强调,在此基础上,还实现了将能耗降低3.3倍的效率提升。


此次技术可立即应用于推荐系统或金融诈骗探测等需要对复杂关系进行分析并要求快速响应的AI服务。


通过掌握能够根据数据结构自动完成自我优化的AI半导体技术,业界评价认为,今后在处理大规模数据的智能服务中,有望同时提升运算速度与能源效率。


Jung 教授表示:“本次研究的意义在于实现了一种能够高效处理非规则数据结构的柔性硬件系统”,并称:“不仅是推荐系统,在金融、安全等需要实时分析的多种AI领域中,也有望应用 AutoGNN。”



另外,本研究已在近日于澳大利亚悉尼举行的计算机体系结构领域国际学术会议“IEEE International Symposium on High-Performance Computer Architecture (HPCA 2026)”上发表。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点