应对人工智能令牌需求……在同一平台选择、管理模型
通过提示词压缩技术,令牌用量最多减少25%
兼顾数据主权与安全性……计划拓展至企业对消费者领域
韩国首家与全球最大路由服务商OpenRouter合作

#. 一家拥有约500名员工的全球研究与开发企业最近遇到了难题。为了提高工作效率,公司引入了单一人工智能模型,但员工开始根据各部门的特点,分别订阅多种人工智能模型。对公司而言,如何掌握各类人工智能模型的使用情况,并一目了然地管理各不相同的令牌用量和费用,成了一项挑战。


KT AX事业部门负责人(常务)Park Sangwon 27日在首尔钟路区光化门西大厦举行的记者会上,介绍KT人工智能业务的发展方向。记者 No Gyeongjo供图。

KT AX事业部门负责人(常务)Park Sangwon 27日在首尔钟路区光化门西大厦举行的记者会上,介绍KT人工智能业务的发展方向。记者 No Gyeongjo供图。

View original image


KT正式发布综合平台“Token Factory”,该平台整合提供国内外500多种人工智能模型,同时最多可将人工智能令牌用量减少25%。


KT于27日在首尔钟路区光化门西楼举行记者会,并宣布将于10月30日正式推出Token Factory。KT计划与全球人工智能中介平台OpenRouter合作,首先提供企业对企业服务,今后再将业务拓展至企业对消费者领域。


Token Factory是一款综合推理平台,可在单一平台上提供多种人工智能模型。平台实时分析用户提问的意图和难度,将需要高水平推理的任务自动接入高级模型,将简单的摘要、翻译等任务接入高性价比的大语言模型。该平台采用了KT自主研发的人工智能模型路由技术“自动模型路由器”。


KT表示,通过自动路由技术,人工智能服务运营所需的令牌用量最多可减少25%。此外,平台整合了KT数十年来积累的通信计费与结算系统,用户只需按实际使用的令牌数量付费,从而减轻费用负担。


人工智能转型事业本部长(常务)Lee Jinhyeong解释称:“我们升级了提示词压缩技术,去除不必要的重复表达,在尽可能保持问题含义和回答质量的同时减少输入令牌数量,提高处理效率。”他还表示:“为减少依赖海外人工智能服务可能导致数据主权受损的担忧,我们直接通过KT在韩国境内的数据中心提供人工智能推理服务。”


KT AX事业本部长(常务)Lee Jinhyung 27日在首尔钟路区光化门西楼举行的记者会上,介绍人工智能平台“KT Token Factory”。记者 No Gyeongjo‌

KT AX事业本部长(常务)Lee Jinhyung 27日在首尔钟路区光化门西楼举行的记者会上,介绍人工智能平台“KT Token Factory”。记者 No Gyeongjo‌

View original image


通过与全球平台OpenRouter建立合作关系,KT也提升了平台的扩展能力。KT计划将Token Factory发展为连接国内外人工智能模型与用户的“人工智能枢纽”。


OpenRouter是一项通过单一应用程序编程接口连接数百种全球人工智能模型的服务。KT计划今后扩大与专注于人工智能编程和智能体领域的Uracle、CAST AI,以及企业级人工智能工作空间专业企业Timely等国内外技术企业的合作。KT还将加强与Upstage、Daum等“全民人工智能”联盟参与企业的协作。



人工智能转型事业部门负责人(常务)Park Sangwon表示:“人工智能市场的竞争正迅速从‘谁能开发出更好的模型’,转向‘谁能让人们更轻松、更高效地运用人工智能’。KT将以Token Factory为基础,凭借通信业务中积累的连接、计费和保护能力拓展人工智能服务,支持客户实现人工智能转型,并将其发展为推动韩国人工智能生态系统成长的核心平台。”


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。