AI Agent 的记忆机制?
发布于
一、短期记忆
- 当前对话上下文。
- 受 LLM 上下文窗口限制。
- 太长会丢失早期信息,浪费 token。
二、长期记忆
- 向量数据库存储历史交互、知识。
- 检索相关记忆注入上下文。
- 支持跨会话记忆。
三、记忆类型
- 情景记忆:具体的交互经历。
- 语义记忆:事实和知识。
- 程序记忆:技能和流程。
四、记忆管理
- 写入:重要信息提取后存向量库。
- 检索:根据当前任务召回相关记忆。
- 遗忘:清理过时、不重要的记忆。
- 压缩:对长对话做摘要,减少 token。
五、实现
- MemGPT / Letta:分层记忆管理。
- LangChain Memory:对话记忆。
- 向量库 + 摘要 + 时间窗口。
六、挑战
- 记忆的相关性和准确性。
- 记忆冲突处理。
- 隐私保护。