智能体的记忆层如果慢,整个体验就跟着拖。一份关于为 AI 智能体构建更快记忆的技术报告,提出了一个叫 Jev-Mem 的新架构,思路来自认知科学里的 System-One/System-Two 双系统模型。
它给出的数字很直接:记忆构建速度提升 6.6 倍,查询延迟降低 36.7%,同时在 LoCoMo 基准上的得分反而更高。快和准,这次没有二选一。
打开网易新闻 查看精彩图片
核心思路:让轻量控制器做决策
Jev-Mem 的关键设计,是把记忆相关的决策交给一个轻量控制器,而不是让大模型全程参与。
存储阶段,控制器负责给记忆分配类型和关系;读取阶段,它处理路由、检索预算、图遍历、打分和停止条件。大模型只在最后一步被调用——做最终推理和写答案。
这个分工的逻辑不难理解:记忆的存取是高频、结构化的操作,交给轻量控制器更划算;真正需要语言理解和生成的环节,才动用大模型。
LoCoMo 上的成绩单
在 LoCoMo 基准上,Jev-Mem 用 LLM 评判得到 0.777 的总体分数,相比最强基线实现了 11.0% 的相对提升。
效率方面的数据同样具体:
- 记忆构建耗时 158 秒
- 平均查询延迟降到 0.93 秒
对于需要频繁读写记忆的智能体来说,查询延迟从秒级往下压,直接影响的是交互的流畅度。0.93 秒这个数字,意味着一次记忆检索基本不会成为用户等待的瓶颈。
为什么值得看一眼
智能体的记忆层长期是个容易被忽视的环节。大家都在卷模型能力,但记忆的存取效率决定了智能体能不能在真实场景里跑得动、跑得久。
Jev-Mem 的思路是把认知科学里的双系统概念落到工程实现上:快思考对应轻量控制器的自动化决策,慢思考对应大模型的最终推理。这种拆分让系统在速度和准确性之间找到了一个可量化的平衡点。
如果你的智能体记忆层正卡在速度上,这个设计值得花个周末读一读。
热门跟贴