AI代理对话一长就从最早的信息开始遗忘
“记忆工程”成为应对之策
由于人工智能(AI)代理(助手)在与用户进行长时间对话时暴露出性能下降的极限,记忆力管理正成为AI产业的主要课题。
据AI业界21日消息,OpenAI、Anthropic等公司虽然在不断延长主要AI模型通过对话可以记住的信息量(即上下文长度),但仍存在局限。Claude Opus 4.7、ChatGPT-5.4、Gemini 3.1 Pro目前最多支持100万标记(约相当于5万行代码、8本英文小说或200分钟播客的篇幅)。
当AI模型超过这一上限后,会从最早的信息开始删除,从而遗忘最初的对话内容。出现诸如忘记与用户在初期达成的约定条件,或在开启新对话时呈现“一片空白”等“语境损坏(context rot)”现象。这样一来,就无法维持个人助手应当记住与用户的对话,并根据其工作模式和风格进行实时行动的功能。在客户支持、法律分析等对长文本或语境连续性要求极高的领域,这可能成为致命弱点。
大规模语言模型在处理长期对话时性能下降的问题也同样存在。本月,开放学术论文平台arXiv上公开的Full Loop研究团队论文显示,AI代理在对话时间越长时,检索噪音和错误记忆越多,性能有下降趋势。在用于测量AI代理长期记忆力的LOCOMO测试中,准确率从0.455骤降至0.05的案例也有出现。
业界为解决记忆力问题,提出了“记忆工程”这一对策。其方式是在AI模型外部存储数据,并通过外部记忆系统仅调用所需部分。OpenAI联合创始人Andrej Karpathy近期公开了将“AI自主实验”理念通用化的开源项目,同时提出了面向代理的外部记忆解决方案。
云基础设施企业Cloudflare也在本月17日发布了一项托管服务,可抽取信息并在需要时使用。该服务将记忆清单进行划分和提供,包括负责永久记忆层的单个代理记忆、在重启后仍可保留的自定义代理Harness记忆,以及用于共享规则和内部知识等内容的档案记忆(Profile Memory)。
全球数据与AI企业Databricks则提出了通过扩展记忆作为应对方案。即为代理配置外部记忆,并将其作为仅在推理时点进行交互的永久信息存储库。Databricks表示,通过这种方式可以解决记忆力不足问题。
也有分析指出,为实现有效的记忆工程,需要具备上下文管理能力。市场调研机构Gartner称:“上下文在AI中起到大脑的作用”,“为了让AI代理能够提供可信的上下文,必须对数据分析和解释结构进行重新设计。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。