Agent 记忆

Agent 记忆按时效与存储载体分为多个层次，决定了智能体「记得多久」与「记得多少」。

• 短期/工作记忆：当前对话上下文窗口（Context Window）内的活跃信息，受 Token 上限制约，会话结束即消失
• 长期记忆：跨会话持久化存储，常见实现包括向量数据库、键值存储或结构化数据库，未来会话可检索调用
• 参数记忆：隐式编码在模型权重中的知识，无需外部检索但更新需要重新训练
• 记忆的意义：没有长期记忆，智能体每次从零开始；有了完整记忆体系，才能实现用户偏好保留、历史任务回溯等个性化能力

学界通常将智能体记忆分为四类，源自认知神经科学对人类记忆的分类框架（CoALA，2023）：

• 工作记忆（Working Memory）：LLM 当前上下文窗口内的活跃信息，包括对话历史、检索到的内容等，会话结束即消失
• 情景记忆（Episodic Memory）：带时间戳的具体交互记录，存储「发生了什么事件」，通常持久化到外部数据库
• 语义记忆（Semantic Memory）：用户偏好、事实知识、领域规则等跨会话的通用性知识
• 程序记忆（Procedural Memory）：智能体掌握的技能与操作规程，如工具调用模板、成功的行动策略

长期记忆的典型实现包含写入、存储、检索、注入四个环节：

• 写入（Write）：对话结束或条件触发时，将关键信息提炼并编码为向量或结构化记录，存入持久化存储
• 存储（Store）：常用 向量数据库（如 Faiss、Chroma、Pinecone、Qdrant）按语义组织数据；也可结合关系型数据库存储结构化字段
• 检索（Retrieve）：新会话时将当前查询转为向量，做 语义检索 或混合检索取 Top-K 最相关记忆片段
• 注入（Inject）：检索到的记忆以系统提示或前置上下文形式拼入 prompt，使模型「想起」历史信息
• 遗忘与更新：过时或矛盾的记忆需主动删除或覆盖，防止引入噪声或错误行为

记忆机制与几个邻近概念容易混淆：

• 记忆 vs 上下文窗口：上下文窗口是短期工作记忆的载体，有 Token 上限；长期记忆突破这一限制，但需要额外的检索机制
• 记忆 vs RAG：RAG 的知识库面向所有用户共享、内容相对静态；记忆库面向特定用户或会话，内容动态更新，两者常结合使用
• 记忆 vs 微调：微调将知识融入模型参数，无法在运行时实时增删；记忆系统可随时写入和删除，灵活性更高
• 记忆 vs KV Cache：KV Cache 是推理加速手段，缓存注意力计算结果；记忆是语义层面的信息持久化，两者层次不同

向量库不等于完整记忆系统，实际部署中存在多项挑战：

• 误区一：向量库 = 完整记忆系统——向量库仅是外部情景/语义记忆的一种实现，缺少更新、遗忘和隐私机制则系统不完整
• 误区二：上下文越长记忆能力越强——超长上下文存在「lost-in-the-middle」问题，中段信息易被忽略，不能替代结构化记忆管理
• 检索精度瓶颈：语义检索可能漏掉关键记忆或引入不相关噪声，导致模型「记错」而非「记住」
• 隐私与合规：长期存储用户数据须提供删除接口，GDPR 等法规要求「被遗忘权」，记忆系统需内置数据生命周期管理
• 容量与成本：每次对话检索记忆库会增加延迟和 API 调用成本，记忆粒度与检索频率需要权衡

当前业界常用工具与框架：

• Mem0：专注长期记忆管理，提供记忆写入、检索、更新与删除的统一 API，适配主流 LLM
• LangGraph / LangChain Memory：在图状工作流中内置多类记忆节点，支持跨节点状态持久化
• MemGPT（2023）：提出分层记忆管理，让 LLM 自主决定写入与召回策略，类似操作系统的虚拟内存管理
• LlamaIndex：提供文档索引与检索增强记忆管道，兼容多种向量数据库后端

Agent 记忆机制随大模型与 Agent 框架演进而逐步成熟：

• 1972–1985：Tulving 提出情景记忆与语义记忆区分；Anderson 建立 ACT-R 认知架构，奠定理论基础
• 2017：Transformer 架构诞生，注意力机制天然支持上下文内的工作记忆
• 2022：向量数据库（Pinecone、Weaviate、Chroma 等）进入主流，为语义记忆提供工程基础
• 2023：CoALA 框架首次系统性地将认知记忆分类映射到 LLM 智能体；MemGPT 提出分层记忆自主管理
• 2024：OpenAI 为 ChatGPT 上线 Memory 功能；Mem0 等专用记忆层开源项目兴起
• 2025–2026：多篇综述提出写入-管理-读取统一框架，记忆更新、遗忘机制与隐私管理成为研究热点