就像电影中的一个场景。能够理解并模仿人类的思想与情感、并与人类相互共感的人工智能(AI)半导体已在国内开发成功。这与人们日常使用的ChatGPT等大型语言模型(LLM)虽能熟练作答,却尚未真正做到与用户“共情”的状况,有着明显不同。


KAIST表示,人工智能半导体研究生院教授 Yu Hoejun 研究团队开发出一款可根据用户特性自我进化的个人定制型大型语言模型(LLM)加速器“灵魂伴侣(SoulMate)”,并于17日对外公布。


“灵魂伴侣”被评价为一项关键半导体技术,它不仅实现了“人人可用的AI”,更通过学习用户个人的对话风格和偏好进行回应,被视为加速到来、“只为我一人服务”的超个性化AI时代的核心支撑。


右侧为教授 Yoo Hoejun,左侧为博士课程研究员 Hong Seongyeon,正在介绍研究成果。KAIST提供

右侧为教授 Yoo Hoejun,左侧为博士课程研究员 Hong Seongyeon,正在介绍研究成果。KAIST提供

View original image

其核心在于无需经过外部服务器(云端),而是在设备本体上直接处理数据的端侧(On-Device)AI技术。


研究团队将基于AI记忆的对话内容生成定制化回答的检索增强生成(RAG)技术,以及即时反映用户反馈进行学习的低秩微调(LoRA)技术,直接在半导体内部实现。


借此,“灵魂伴侣”能够在0.2秒(216.4毫秒)以内响应用户,并同时完成学习,可作为一套实时个性化AI系统加以利用。


此外,采用根据信息重要度优化处理方式的混合秩(Mixed-Rank)架构,大幅降低了功耗,也是“灵魂伴侣”的一大优势。


用于实现“灵魂伴侣”的半导体,仅以相当于智能手机处理器耗电量1/500水平的9.8毫瓦超低功耗,即可同时执行复杂的学习与推理,因此在智能手机等移动终端上也能无需担心电池续航即可运行。


尤其是其“安全闭环AI”结构,所有个人数据均不上传至外部服务器,而是在设备内部完成处理,从根本上阻断了个人信息泄露的隐患。


研究团队预计,该技术今后将与智能手机、可穿戴设备、个人AI终端等下一代平台结合,为开启真正的个性化AI服务时代作出贡献。


Yu 教授表示:“本次研究模仿了人与他人逐步建立友谊的过程,在这一意义上,为AI成长为用户真正的伙伴奠定了技术基础。未来的AI将不仅是简单的工具,而是在完全实现个人隐私保护的前提下,成为无论何时何地都最了解、最理解‘我’的‘最佳好友(Best Friend)’般的存在。”


另一方面,本次研究由博士课程研究员 Hong Seongyeon 以第一作者身份参与。研究成果(论文)上月在美国旧金山举行的“国际固态电路设计学会(ISSCC)”上被选为“重点论文(Highlight Paper)”,引起学界关注。



在学会现场,研究团队利用真实半导体芯片,成功演示了根据用户反应实时改变回答风格的系统。“灵魂伴侣”AI半导体预计将于明年实现产品化。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点