智能体在长期运行中,会在提示词、记忆、工具等框架组件里积累经验。但一篇新论文指出,更新其中任一组件,都可能出现模型参数未变、行为却失效的情况,研究者称之为“框架级遗忘”。
针对这一问题,论文提出一种“受保护的框架演化”机制。该机制由持续优化器生成候选框架,再由持续评估器在确认改进、历史保留和有效性之后才提交更新,避免盲目改动破坏已有能力。
打开网易新闻 查看精彩图片
实验结果显示,该机制在文本推理、多模态感知和开放世界交互等任务中,相对表现提升超过10%。
智能体在长期运行中,会在提示词、记忆、工具等框架组件里积累经验。但一篇新论文指出,更新其中任一组件,都可能出现模型参数未变、行为却失效的情况,研究者称之为“框架级遗忘”。
针对这一问题,论文提出一种“受保护的框架演化”机制。该机制由持续优化器生成候选框架,再由持续评估器在确认改进、历史保留和有效性之后才提交更新,避免盲目改动破坏已有能力。
实验结果显示,该机制在文本推理、多模态感知和开放世界交互等任务中,相对表现提升超过10%。
00:00
热门跟贴