人工智能转型基础设施企业Acryl于29日表示,其有关提高大语言模型推理效率的人工智能推理控制技术论文,已被自然语言处理领域国际学术会议“EMNLP 2026”主会议接收。
该技术的核心是在不增加图形处理器投入、不扩大词元预算的情况下,提高人工智能推理的准确率。目前,该技术已应用于Acryl的人工智能基础设施平台GPUBASE,并实现商业化。
Acryl的论文《在有限词元预算下双向调节人工智能推理进程的技术(ParentingLLM)》提出,根据问题难度和推理进展灵活调整人工智能思考过程的方法。当模型过早得出结论时,该技术会引导其进一步核查;当推理过程不必要地延长时,则促使其梳理思路,在适当时机完成回答。
研究团队让谷歌Gemma和阿里巴巴Qwen系列中从小型到大型的共4个模型解答数学、科学领域的高难度问题。结果显示,在相同词元预算下,所有模型的正确率均有所提高。
在1024个词元的预算下,4个模型的平均正确率从54.1%升至58.7%,提高4.6个百分点;小型模型Gemma-4-E4B的正确率从39%升至49.5%,提高10.5个百分点。用尽给定词元仍未得出结论的“预算超限”比例,4个模型的平均值从20.7%降至13.5%,Gemma-4-E4B则从26.1%降至14.1%。
Acryl还在自主研发的基础模型Arum(A-LLM)上验证了推理准确率的提升,表明该技术的应用不依赖于特定模型。目前,该技术已应用于GPUBASE的大语言模型推理环境并对外销售。
公司计划今后将该技术的应用范围从生成式人工智能扩展至物理人工智能。目前,Acryl正参与一项规模达650亿韩元的国家研发项目,旨在构建基于协作智能物理人工智能的软件平台研发体系。在该项目中,Acryl以物理人工智能平台Jonathan PAI为基础,开发视觉—语言—动作模型的训练、推理和服务能力,以及异构机器人的运行环境,并计划将ParentingLLM的推理控制技术与之结合。
公司计划进一步完善该技术,使其在物理人工智能环境中也能动态调节推理量,在有限的计算资源下兼顾判断准确率与响应速度。
Acryl相关负责人表示:“我们将以率先在实际产品应用中得到验证的推理效率提升技术为基础,减轻企业引入和运营人工智能的成本负担,并逐步将应用范围从生成式人工智能扩展至物理人工智能。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。