大模型 Agent 记忆写入机制设计
本文梳理了 Agent 记忆系统的核心设计方案:从旁路小模型预审、三维准入筛选,到图+向量混合存储与动态反思遗忘机制,构成一套能覆盖市面上 90% 高级 Agent 需求的记忆架构。
时间轴 · 要点整理
[00:10] 记忆写入的第一步:旁路小模型预审
讲解要点:
- 不要直接把用户话语塞给最贵的大模型做记忆存储——太贵且慢。
- 破局方案:挂一个旁路小模型,专在后台”听墙角”做信息提取,主对话模型继续配用户聊天。
- 小模型负责分析:这句话里有没有关键信息?既省钱又不影响响应速度。
画面:
EXHIBIT 02 · RESOURCE 资料福利
已整理 · SYSTEM ROADMAP · 大模型 + Agent 系统学习路线
[00:20] 误区:别直接塞给最贵的大模型
画面:
- 左框:用户消息气泡 + 雨云图案(示例:“我今天心情不好,因为下雨了”)
- 右框:“最贵的大模型” + 皇冠/货币符号
- 中间红色箭头标注:“直接塞给?“
[00:40] 记忆准入的三大维度
讲解要点:
- 持久性:这条信息下周还能用到吗?
- 临时推理(“刚才那是玩笑话”)→ 用完即扔
- 事实性信息(“下周三要去北京出差”)→ 锁入长期记忆
- 结构化:是一坨文本还是一个实体?
- 闲聊 → 低结构化
- “我和张三是同事” → 高结构化实体关系,必须提取,否则后续推理会乱
- 个性化:能帮我更懂用户吗?
- 隐含需求(“大家每次让你说人话,别啰嗦”)→ 记下来,Agent 越用越顺手
[01:20] 混合存储架构:Graph RAG
讲解要点:
- 只用向量检索的问题:幻觉和逻辑丢失。例如问某名人当前配偶,向量检索可能搜出一堆八卦新闻却给不出准确答案。
- 专家方案:Graph RAG(图谱增强检索)
- 把实体关系存进图数据库(如 Neo4j)
- 推理更精准
- 还需解决容量问题:记忆只存不删,一年就爆仓
画面:
EXHIBIT 09 · 记忆写入机制
NO.09 · 误区 MISCONCEPTION
一股脑扔进向量库 = 万事大吉?❌
[01:50] 遗忘机制:反思(Reflection)
讲解要点:
- 来自斯坦福虚拟小镇论文的核心概念
- Agent 不能光记流水账,要定期反思
- 例:用户反复提到焦虑 → 推断可能是工作压力太大 → 从零散记录中升华成高维洞察
画面:
EVIDENCE NO.013 · 反思机制 REFLECTION
斯坦福虚拟小镇论文 · SOURCE 2023
Agent 不能光记流水账
[02:00] 总结:四步记忆架构
讲解要点:
- 漏斗筛选:别啥都存,用三大维度过滤
- Graph RAG:别光吹向量,图+向量结合解决幻觉
- 动态反思:别记流水账,要有深度洞察生成
- 分级存储:重要画像永久存,不重要日志让它慢慢遗忘
画面:
EVIDENCE NO.014 · SUMMARY 总结 1/2
四步总结 · OPART 1/2
[末段] 结语
这套架构基本能覆盖目前市面上 90% 的高级 Agent 记忆需求。
相关笔记
- AI 大模型 MOC · ↪ 返回 Agent/MOC 索引