AI Agent 的记忆机制?

发布于

一、短期记忆

  • 当前对话上下文。
  • 受 LLM 上下文窗口限制。
  • 太长会丢失早期信息,浪费 token。

二、长期记忆

  • 向量数据库存储历史交互、知识。
  • 检索相关记忆注入上下文。
  • 支持跨会话记忆。

三、记忆类型

  • 情景记忆:具体的交互经历。
  • 语义记忆:事实和知识。
  • 程序记忆:技能和流程。

四、记忆管理

  • 写入:重要信息提取后存向量库。
  • 检索:根据当前任务召回相关记忆。
  • 遗忘:清理过时、不重要的记忆。
  • 压缩:对长对话做摘要,减少 token。

五、实现

  • MemGPT / Letta:分层记忆管理。
  • LangChain Memory:对话记忆。
  • 向量库 + 摘要 + 时间窗口。

六、挑战

  • 记忆的相关性和准确性。
  • 记忆冲突处理。
  • 隐私保护。