大模型 Agent 记忆写入机制设计

本文梳理了 Agent 记忆系统的核心设计方案:从旁路小模型预审、三维准入筛选,到图+向量混合存储与动态反思遗忘机制,构成一套能覆盖市面上 90% 高级 Agent 需求的记忆架构。


时间轴 · 要点整理

[00:10] 记忆写入的第一步:旁路小模型预审

讲解要点:

  • 不要直接把用户话语塞给最贵的大模型做记忆存储——太贵且慢。
  • 破局方案:挂一个旁路小模型,专在后台”听墙角”做信息提取,主对话模型继续配用户聊天。
  • 小模型负责分析:这句话里有没有关键信息?既省钱又不影响响应速度。

画面:

EXHIBIT 02 · RESOURCE 资料福利
已整理 · SYSTEM ROADMAP · 大模型 + Agent 系统学习路线


[00:20] 误区:别直接塞给最贵的大模型

画面:

  • 左框:用户消息气泡 + 雨云图案(示例:“我今天心情不好,因为下雨了”)
  • 右框:“最贵的大模型” + 皇冠/货币符号
  • 中间红色箭头标注:“直接塞给?“

[00:40] 记忆准入的三大维度

讲解要点:

  1. 持久性:这条信息下周还能用到吗?
    • 临时推理(“刚才那是玩笑话”)→ 用完即扔
    • 事实性信息(“下周三要去北京出差”)→ 锁入长期记忆
  2. 结构化:是一坨文本还是一个实体?
    • 闲聊 → 低结构化
    • “我和张三是同事” → 高结构化实体关系,必须提取,否则后续推理会乱
  3. 个性化:能帮我更懂用户吗?
    • 隐含需求(“大家每次让你说人话,别啰嗦”)→ 记下来,Agent 越用越顺手

[01:20] 混合存储架构:Graph RAG

讲解要点:

  • 只用向量检索的问题:幻觉和逻辑丢失。例如问某名人当前配偶,向量检索可能搜出一堆八卦新闻却给不出准确答案。
  • 专家方案:Graph RAG(图谱增强检索)
    • 把实体关系存进图数据库(如 Neo4j)
    • 推理更精准
  • 还需解决容量问题:记忆只存不删,一年就爆仓

画面:

EXHIBIT 09 · 记忆写入机制
NO.09 · 误区 MISCONCEPTION
一股脑扔进向量库 = 万事大吉?❌


[01:50] 遗忘机制:反思(Reflection)

讲解要点:

  • 来自斯坦福虚拟小镇论文的核心概念
  • Agent 不能光记流水账,要定期反思
  • 例:用户反复提到焦虑 → 推断可能是工作压力太大 → 从零散记录中升华成高维洞察

画面:

EVIDENCE NO.013 · 反思机制 REFLECTION
斯坦福虚拟小镇论文 · SOURCE 2023
Agent 不能光记流水账


[02:00] 总结:四步记忆架构

讲解要点:

  1. 漏斗筛选:别啥都存,用三大维度过滤
  2. Graph RAG:别光吹向量,图+向量结合解决幻觉
  3. 动态反思:别记流水账,要有深度洞察生成
  4. 分级存储:重要画像永久存,不重要日志让它慢慢遗忘

画面:

EVIDENCE NO.014 · SUMMARY 总结 1/2
四步总结 · OPART 1/2


[末段] 结语

这套架构基本能覆盖目前市面上 90% 的高级 Agent 记忆需求。

相关笔记