共同升级基于FuriosaAI RNGD的人工智能代理运行时及应用解决方案
“通过软硬件协同优化,降低人工智能代理引入门槛”
人工智能基础设施软件初创企业Anybridge(代表Park Jongse)与FuriosaAI举行签约仪式,将结合双方核心技术——第二代加速器“RNGD”及人工智能代理解决方案,开发基于神经网络处理单元的企业级人工智能代理平台。双方计划借此将合作拓展至从神经网络处理单元优化到客户概念验证的全方位领域。
Anybridge是一家人工智能初创企业,开发多加速器大语言模型服务运行时及企业级人工智能代理平台,使图形处理器、神经网络处理单元、存内处理器等各类人工智能加速器能够根据服务特性得到灵活应用。该公司以韩国科学技术院计算机科学系教授Park Jongse为核心,正挑战实现韩国首个基于神经网络处理单元的系统软件商业化。其目标是通过不依赖特定硬件的通用接口和基于工作负载的优化,支持企业稳定、高效地运营生成式人工智能服务。
FuriosaAI的RNGD是一款面向大语言模型和代理型人工智能的数据中心人工智能推理加速器,基于其自主研发的张量收缩处理器架构,支持高性能、高效率的人工智能推理。目前,其商业化应用正面向韩国国内外客户不断扩大。
此次合作的核心,是根据人工智能代理的工作负载及工作流程特征,优化神经网络处理单元的使用,并推进旨在提升性能与成本效率的技术合作。合作范围包括共同开发基于神经网络处理单元的企业级人工智能代理、编程代理平台、运行时及应用解决方案,开发和验证基于云的服务,客户应用与概念验证,以及发掘联合案例和商业化机会等。
在全球范围内,随着生成式人工智能的应用范围从简单问答扩展至编程、知识检索、业务自动化等代理型服务,企业已进入不仅要考量模型性能,还须兼顾基础设施成本和稳定运营的阶段。双方计划通过软硬件协同优化,降低企业引入人工智能代理的门槛。
在这一市场趋势下,两家分别拥有硬件设计和系统软件技术实力的韩国初创企业展开合作,预计将为由大型科技企业主导的人工智能基础设施生态系统提出新模式。
FuriosaAI将提供用于RNGD应用和优化的技术信息、开发环境及技术支持;Anybridge则将在此基础上开发并升级针对人工智能代理工作负载优化的运行时和应用解决方案。双方计划不止于技术联动,还将把合作拓展至在实际客户环境中验证性能与成本效率,并获得联合案例。
Anybridge代表Park Jongse表示:“若要让人工智能代理普及至企业实际业务中,除模型外,还必须具备能够稳定且经济地运行模型的基础设施。我们将通过与FuriosaAI的合作,把神经网络处理单元的优势延伸至人工智能代理服务,并创造客户能够切实感受到的性能与成本效率。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。