返回全部文章AI 与智能体

AI 智能体如何记忆:记忆、上下文,以及为什么这件事很难

让一个 AI 智能体令人信服还是令人抓狂,最大的差别之一就是记忆。能记住你的约束条件、偏好和它已经试过什么的智能体,让人觉得靠谱;每一步都从头来的智能体,则让人觉得它坏了。但 AI 系统里的“记忆”,和这个词给人的感觉并不完全一样。

为什么智能体需要记忆

智能体在一个循环里工作:观察、决定、行动、再观察。要让这个循环说得通,后面的步骤必须知道前面发生了什么。记忆让智能体能够:

  • 跟踪一个多步骤计划及其进度。
  • 避免重复已经试过的动作。
  • 不用你说第二遍就应用你的偏好。
  • 在后续决策中用上早先工具调用的结果。

没有记忆,每一步都是全新的开始,智能体无法在自己的成果上继续搭建。

两种记忆

按时间尺度来区分记忆很有帮助。

短期(工作)记忆是当前对话或任务的上下文——到目前为止的消息、计划、最近的工具结果。它存在于模型的上下文窗口里,而这个窗口是有限的。对话太长时,较早的细节会被挤出去。这就是为什么智能体有时好像会“忘掉”你一小时前说的话。

长期记忆跨会话持续存在。它可能是一份关于你、过往项目或经验教训的事实存储。智能体在需要时检索相关片段,很像你会从旧笔记本里翻出一条笔记。

长期记忆如何运作

大多数系统都沿用某个常见模式的变体:

  1. 捕获。 判断什么值得记住——一个偏好、一个决定、一条有用的事实。
  2. 存储。 把它存到持久的地方,通常以文本加上一个捕捉其含义的数值表示(embedding,嵌入向量)的形式。
  3. 检索。 新任务到来时,在存储中搜索与它相关的记忆。
  4. 注入。 把检索到的记忆加入智能体的上下文,让它能用上。

检索这一步是大部分难点所在。拉进来的太少,智能体会漏掉关键信息;拉进来的太多,则浪费上下文,还会被无关细节搞糊涂。

智能体该记住什么——和不该记住什么

不是所有东西都值得保留。好的记忆系统是有选择性的:

  • 值得保留: 明确说出的偏好、反复出现的约束、已经做出的决定、用户确认过的事实。
  • 不宜保留: 敏感的个人数据、过时信息、用户从未确认的假设、以后无关紧要的一次性细节。

记忆卫生差有真实后果。一个存下错误假设并不断套用的智能体,会一次次自信地犯同一个错;一个记住了本不该记住的敏感数据的智能体,则制造了隐私问题。

为什么记忆真的很难

几个障碍让智能体记忆在实践中成为未解难题:

  • 上下文有限。 即使很大的上下文窗口也有上限,把所有东西塞进去会削弱注意力。
  • 相关性。 判断当前任务该回忆什么,更接近一个搜索问题,而不是查表。
  • 一致性。 记忆之间可能互相矛盾,也可能随情况变化而过期。
  • 归因。 很难说清是哪条记忆导致了哪个决定,这让调试变得困难。
  • 隐私。 用户需要知道什么被记住了、能看到它、也能删掉它。

实用的设计选择

如果你在构建或评估一个智能体,下面几个问题能看出它的记忆到底好不好:

  • 它是否跨会话记忆,还是只在一个对话内有效?
  • 你能查看和编辑它存下的关于你的内容吗?
  • 它会总结旧上下文,还是把原始历史一股脑塞进去?
  • 对不再真实的信息,它会忘掉或更新吗?
  • 它能解释为什么调取了某条记忆吗?

记忆清晰、可控的智能体,往往比那些悄悄记住一切的智能体更值得信任。

结论

智能体记忆不是单一功能,而是一整套栈:当前任务的短期上下文、持久事实的长期存储,以及在恰当时机把恰当片段带回的检索。正是它把一连串互不关联的回复变成连贯、持续的工作——但它并不完美,而那些处理得好的智能体,往往是有选择、透明、并且尊重“不该保留什么”的。

下载 Ball — Ball

下载 Ball

正在阅读英文?可在菜单中切换语言。