Makebot在韩国代表性交通支付平台打造KakaoTalk原生生成式人工智能聊天机器人……交通·航空·出行行业首创
- 无需跳转网页新窗口,直接在KakaoTalk聊天窗口进行生成式人工智能咨询……对话记录完整保留
- 理解各发卡机构登记条件、按星期计费等复杂规则……还能进行按日计算及按条件判断
韩国代表性公共交通支付平台引入了可在KakaoTalk聊天窗口中直接使用的生成式人工智能聊天机器人服务。这是生成式人工智能正式应用于规则复杂、答案因个人情况而异的公共服务领域的案例;可在KakaoTalk聊天窗口直接收发生成式人工智能回复的所谓“原生”模式,在交通、航空及出行行业尚属首次。
人工智能聊天机器人专业企业Makebot(首席执行官Kim Jiwoong)29日表示,已在韩国最大规模的交通支付平台KakaoTalk聊天机器人中应用基于大型语言模型的生成式人工智能咨询功能。此次升级还搭载了Makebot于去年在意大利帕多瓦举行的全球权威人工智能学术会议“SIGIR 2025”上发表的HybridRAG技术。
无需跳转网页的“KakaoTalk原生”生成式人工智能……对话不中断
生成式人工智能及基于大型语言模型的聊天机器人正在向各行业普及,但大多数模式是在用户从KakaoTalk进入后,将其跳转至单独的网页浏览器窗口或应用程序。跳转至网页窗口后,一旦关闭窗口,对话便会消失,无法再次查看此前的回复,也容易造成用户中途退出。
此次聊天机器人让用户在日常使用的KakaoTalk聊天窗口内提问并获得回复。对话内容会原样保留在聊天室中,数日后仍可查看;也可进行以先前对话为前提的多轮应答,例如“那么后付费的情况如何”。由于即时通信聊天机器人在响应时间及信息结构上存在限制,难以直接接入实时生成长篇文本的大型语言模型,Makebot通过HybridRAG方式解决了这一限制。
并非简单检索,而是“推理”……大型语言模型直接计算复杂收费体系
此次生成式人工智能聊天机器人最突出的特点,在于不仅能查找信息,还具备根据用户情况作出判断和计算的推理能力。当用户提问“如果在7月15日登记后付费气候同行卡,首月账单金额是多少”时,聊天机器人会依次考虑7月共有31天、基本月度费用上限及未登记期间按日扣减金额,直接计算并告知首月费用上限。对于“乘坐汉江巴士2次,月度费用上限会增加多少”的问题,也会一并给出计算结果:以30日标准的6.2万韩元加上5000韩元,最高适用至6.7万韩元。
该系统还可根据地区和条件作出判断。对于“在釜山也能使用吗”的提问,会区分预付费和后付费气候同行卡的可用地区标准进行说明。对于无法明确判断的问题,系统不会勉强作答;针对特定错误代码的咨询,则会分别说明各项服务可能存在的原因。得益于应用了消除幻觉的技术,系统也能准确识别“气候卡”等缩略表达。
图片:Makebot打造的KakaoTalk原生生成式人工智能聊天机器人的回复界面。左侧按日计算并说明后付费气候同行卡首月月度费用上限,右侧计算并展示使用汉江巴士后月度费用上限的变化。图片由Makebot提供。
View original image自然语言处理与生成式人工智能混合模式……将大型语言模型调用降至30%,节省词元成本
另一项核心在于,并非将所有问题都交由生成式人工智能处理的混合架构。对于已完成训练的自然语言处理意图类问题,系统无需调用大型语言模型即可立即回复;只有意图库中未涵盖的问题,才由生成式人工智能处理。此时,聊天机器人会先显示“正在生成回复”的提示信息,以减轻用户的等待负担。
成效在上线首日的数据中得到验证。在处理的974件咨询中,自然语言处理意图即时回复685件,占70.3%;生成式人工智能生成回复289件,占29.7%。与全部通过大型语言模型处理相比,词元成本降至约三分之一。由于生成式人工智能每次生成回复都会产生词元成本,用户越多,运营费用越高,这一直是推广应用的障碍;而混合架构可由自然语言处理吸收重复咨询,使机构在引入阶段便能够估算年度运营预算。这对于预算约束明显的公共机构尤其具有重要意义。
此次应用的HybridRAG,是由Kim Jiwoong主导研究并与汉阳大学共同开发的大型语言模型与检索增强生成结合技术。验证结果显示,与现有检索增强生成技术相比,其准确率提高26.6%,响应速度改善6.2%。该技术还能准确解析含有表格或图表的复杂文件,被评价为已针对交通支付领域进行了优化。
上线半天处理974件咨询……替代64.9小时客服人力
此次生成式人工智能聊天机器人于28日下午1时42分正式启动服务,半天内便处理了974件咨询。这相当于约64.9小时的客服人力;若按延长工作及节假日工作加班津贴标准,并反映《劳动基准法》第56条计算,预计可节省约165万韩元人力成本。
Makebot此前已将该平台的交通卡、移动充值、便捷支付等6项服务客服中心整合为单一KakaoTalk聊天机器人并持续运营,每月有数十万人使用。随着此次引入生成式人工智能,平台无需增加客服人力,便可填补夜间和周末的应答空白。
预计这将加快生成式人工智能在通信、金融等处理复杂资费套餐及条款的其他行业中的应用,而不仅限于交通领域。
“民众咨询的核心是‘在我的情况下会怎样’……智能生成式人工智能开始作答”
Makebot首席执行官Kim Jiwoong表示:“是否符合地方税减免对象、距离申请截止日期还剩几天、按照我的条件能获得多少补贴,许多公共咨询并非仅读出规则就能解决。”他称:“此次项目证明,大型语言模型能够在公共交通这一大规模公共服务中理解实际业务文件,并完成计算和判断。”他还补充称:“此前公共机构犹豫是否引入生成式人工智能,原因并非性能,而是运营成本。对于地方政府民众咨询、公共收费、资格审查等规则复杂且个人情况各异的领域,都可以采用同样的方式。”
另一方面,Makebot已为大韩航空、韩国机场公社、Kakao T、SRT等交通及航空企业,以及清州市、富川市等数十个地方政府、韩国旅游发展局、韩国不动产院、首尔住宅城市公社等公共机构构建聊天机器人。该公司被选定为政府“构建超大规模人工智能生态系统”项目的供应企业,并已申请数十项大型语言模型及检索增强生成领域专利。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。