Rebellions“Atom-Max”结合KT大型语言模型与应用程序接口
“将成为国防、制造、金融等重视安全行业人工智能转型的催化剂”
KT于19日表示,已推出一款面向企业的主权人工智能一体机,将国产人工智能半导体与大型语言模型整合于单台服务器中。
该产品名为“KT NPU LLM Station”,搭载Rebellions的神经网络处理器“Atom-Max”、KT自主研发的大型语言模型“Mi:dm K 2.5 Pro”及运营应用程序接口平台,从人工智能半导体、模型到运营平台均采用韩国本土技术。
Atom-Max是一款专为推理设计的国产神经网络处理器,经权威测试验证,其处理性能和能效均优于同级图形处理器。“Mi:dm K 2.5 Pro”则是KT自主研发的模型,在高难度推理及智能体应用方面具备优势。
KT将强大的安全性列为产品最大特点。该产品部署在客户企业内部,所有数据及人工智能运算均仅在企业内部完成。KT预计,这将成为公共、国防、制药、制造、金融等受监管行业推进人工智能转型的催化剂;这些行业此前因网络隔离等相关监管规定,无法引入海外生成式人工智能。
产品还降低了部署门槛。由于服务器、人工智能模型和平台已整合为成品设备,无需另行建设,自安装当日起即可直接使用基于企业内部文档的问答、检索增强生成等人工智能功能。与同级图形处理器服务器相比,其能效更高,并提供行业标准应用程序接口,可兼容现有人工智能服务。
KT计划未来陆续搭载其开发的人工智能智能体,包括会议纪要撰写、编程辅助及业务自动化智能体“K-Claw”(暂定名),并与专业智能体开发企业合作,拓展至面向客户的定制化建设业务。进一步而言,KT将把“KT NPU LLM Station”的应用范围扩大至服务于具身智能的边缘数据中心,以构建低功耗、低延迟的人工智能基础设施。
KT人工智能转型事业本部长、常务Lee Jinhyeong表示:“我们让主权人工智能能够在实际产业现场立即投入使用。对于希望在守护数据主权的同时开启人工智能转型的企业和机构而言,这将成为务实的选择。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。