Anthropic 公开了给 Claude 设计记忆的思路:记忆分四层,边干边记,晚上通过「做梦」复盘整理
原文链接: https://www.anthropic.com/research/components-of-agent-memory 来源: www.anthropic.com 发现于: 小互 · AI 解读站 · 2026/11/16 说明: 本文由 AIHot汪 自动聚合,并由 GLM 翻译为中文(保留全部代码与链接)
索伦·克尔凯郭尔曾写道,生活只能向后理解,但必须向前生活。在设计 AI Agent 的记忆机制时,我们也遇到了类似的困境。
作为人类,我们在日常生活中不断编码记忆。海马体在此过程中起着核心作用,它捕捉当下的体验,使记忆能够快速形成并立即可用。但只有部分体验会被巩固为长期知识。
大部分巩固过程似乎发生在大脑离线时。当我们睡觉以及处于安静的休息状态时,海马体会重放我们近期的体验。据认为,这一过程会逐渐提炼这些体验并将它们整合到新皮层——即我们大脑中存储大多数所谓知识的部分。
Agent 记忆可以采用类似的分工模式。Agent 会将大部分工作记录在日志或转录文件中。Letta 和加州大学伯克利分校的研究人员提出了睡眠时计算的概念,作为一种让模型在交互之间的空闲时间内重新组织现有上下文的方法。同样的理念可以帮助 Agent 通过反思日志来修正错误、生成新的笔记和表示,从而组织其记忆。这一过程通常被称为做梦做梦(图 1)。
我们发现,“做梦”是帮助 Claude 建立有效记忆的有力工具。在本文中,我们将分享我们对 Agent 记忆的思考方式,并介绍我们用于探索 Agent 记忆的几项评估,包括“做梦”的使用,以及每个组件对记忆组织的贡献。

Claude 可以利用“做梦”来组织记忆。这可以纠正错误、创建笔记、构建新的记忆表示,或塑造预加载到未来会话中的内容。
记忆笔记
当我们提到“Agent 记忆”时,我们指的是 Claude 从经验(包括与用户的交互以及被分配的任务)中获得的知识,并且它在会话之间保留这些知识,将其保存为后续可读取的上下文。它不包括模型学习或管理上下文的其他方法,例如对其权重(训练期间设置的内部参数)的更改、上下文内学习(在单个对话中获取的知识)以及压缩(由 Claude 编写的摘要,用于替换其较早的对话轮次,以便它可以在新的上下文窗口中继续工作)。
在人脑中,在体验之前、期间或之后释放的化学信号可以标记记忆为重要。被标记的记忆在离线期间往往比未标记的记忆重放得更频繁。这一称为重放的过程有助于稳定这些记忆并将其整合到长期记忆中。
同样,Claude 可以在会话日志发生时标记显著事件,以便日后更容易找到,或者将其写入记忆存储,例如记忆笔记文件夹(图 2)。但是,Claude 如何在当下判断什么是显著的,而在此之前它并不知道接下来会发生什么?

Claude 可以将笔记写入记忆。
记忆可以是对未来需求的预测
记忆有时是一种预测。通过写下规则,Agent 预测它所描述的模式将在未来再次相关。例如,写下一个经过验证的事实,就是预测未来的某个会话中的 Agent 将依赖该事实而无需再次核实。随着时间的推移,Claude 在做出这类预测方面变得更强。
考虑来自 Continual Learning Bench (CL-Bench) 1.0 的一项任务,这是一个衡量 Agent 利用记忆来解决长周期任务能力的基准测试。其中一个特定任务要求 Claude 通过查阅数据库中的信息来回答一系列问题。在 Claude 给出答案后,它会被告知正确答案,并可以写入记忆以帮助回答未来的问题。
记忆可以在这里支持一个学习循环。如果 Claude 回答错误,它可以记录失败,提出关于出错原因的理论,测试这些理论,并将发现转化为关于未来如何回答的规则。
我们使用 Claude Managed Agents 运行了 CL-Bench 1.0 任务。Claude 在每个问题的开始时启动一个新的会话,唯一的例外是:它可以检索来自 记忆目录 的文件,这些文件会从一个会话持久化到下一个会话。
不同的模型在创建自身学习循环方面取得了不同程度的成功。Claude Sonnet 4.6 进展到了生成关于答案为何错误的理论阶段。它的记忆目录中包含了一些分散的文件,每个文件列出了几个未经测试的猜测。

CL-Bench 数据库任务,跨模型比较记忆与无状态基线。
Claude Opus 4.7 将其笔记整合为单个参考文档,并开始标记哪些事实已经过检查,哪些仍未确认。Claude Sonnet 5 在评分器检查后标记每个答案为已确认,并在回答错误时写入更正。
Claude Opus 5 是这些模型中第一个形成闭环的。它的大多数条目都包含一条规则(以及它如何知道该规则为真)、对早期问题的回答,以及关于沿途发现的陷阱的明确警告(图 3)。
与 Opus 5 一样,Claude Opus 5.5 和 Claude Sonnet 5.5 都形成了闭环,使用记忆来捕获关于如何最好地回答未来问题的已验证规则。有了记忆,它们的得分与 Opus 5 大致相同,尽管它们在没有记忆时的基线性能略高。
Claude 已学会判断显著性
我们还评估了 Claude 玩 Pokémon Red 的能力,这是一款 挑战 Claude 导航 复杂长周期任务的游戏,以此测试 Claude 对于什么值得保存到记忆的判断力。在每次运行的开始时,我们给每个模型一个记忆文件夹,它可以在游戏过程中从中读取和写入(图 4)。
我们比较了 Claude Sonnet 3.7 和 Claude Fable 5 各一次运行时的记忆文件夹,当时它们都进行到了大约 10,000 步。我们注意到的一个关键区别是,每个模型认为值得记住的内容不同。Sonnet 3.7 假设一切可能都重要,因此 indiscriminately(不加选择地)写入记忆。它的记忆文件夹包含了一系列遭遇记录,通常每个战斗、每个找到的物品、每个遇到的非玩家角色(NPC)都有单独的文件。最终,Sonnet 3.7 在 225 个文件夹中写了 413 个记忆文件,并获得了一个徽章(徽章标记玩家在游戏进程中的进度)。
相比之下,Fable 5 在两个文件夹中编写了九个文件,外加一个名为 global.md 的顶级文件,并获得了四个徽章。

Claude 在运行 Pokémon 时,Sonnet 3.7 与 Fable 5 的记忆目录对比。
Sonnet 3.7 的方法主要存在问题,因为 Pokémon 的游戏状态不断变化——Sonnet 3.7 的详细记录会不断过时。结果,随着 Claude 的推进,它不得不花费更多的时间和资源来梳理其记忆,而不是玩游戏。例如,在第 10,000 步左右,Sonnet 3.7 开始了其第四个“master”记忆文件文件夹。在接下来的 17 步中,它创建了六个文件,删除了九个其他文件,并且在游戏本身中没有采取任何行动。
Fable 5 的方法将记忆用于游戏未明确告知它的信息。Sonnet 3.7 写入记忆的一些信息类型——例如玩家有多少钱或玩家在地图上的位置——每回合都可以从屏幕上读取,因此存储这些信息是多余的。相比之下,关于策略、计划和经过测试的规则的记忆文件,只有在 Claude 自己推导出来时才存在,并且除非 Claude 将其写下来,否则它们会消失。
Fable 5 据此组织了其记忆。其 global.md 文件充当仪表盘,保存当前目标、针对道馆(赢得徽章的挑战)的预写计划,以及模型自身的使用记忆规则。locations 文件夹保存了导航特定路线的计划,而 gameplay 文件夹保存了基于它对游戏运作方式所学到的策略。例如,在连续七个精灵球未能捕捉到一只鲤鱼王(最容易捕捉的宝可梦之一)后,Claude 写道:“如果连续 3+ 个球失败,请变化时机(在菜单步骤之间插入额外的‘等待’按键)——捕捉是在这样做之后立即成功的。”
凭借小得多的记忆文件夹,Fable 5 在游戏中取得了比 Sonnet 3.7 更远的进展。Opus 5.5 采用了类似的方法:它保持一个小的记忆笔记文件夹,跟踪其当前目标和下一步,并在游戏过程中重写这些笔记,最终击败了游戏。
引导 Claude 编写记忆
我们发现,告诉 Claude 记忆是做什么用的,而不是如何使用它,会有所帮助。在 CL-Bench 上,我们只是告诉 Claude 有一个记忆文件夹可用。这种一般性指导足以让 Opus 4.7 和 Opus 5 有效使用记忆,并显著提升了它们的性能(图 3)。
我们还测试了向模型提供关于它们应该写入记忆的特定规则,每个测试一条规则。我们比较了每条规则下每个模型从记忆中获得的增益与没有该规则时的增益。当我们设置规则为“仅记录失败”时,Opus 5 和 Opus 4.7 都失去了记忆给它们带来的大部分性能提升(图 5,右侧)。对于更强的模型,赋予它们判断显著性的自由比预先设定固定规则更有效,而这些规则最终可能会削弱性能。

左侧:Sonnet 4.6 在 CL-Bench 数据库任务上,有无引导记忆使用的提示。右侧:当被告知仅记录失败时,每个模型从记忆中获得的增益变化。
我们还注意到,引导(steering)对较旧的模型帮助最大。例如,Sonnet 4.6 经常不会从其记忆目录中读取文件,并且未能测试其关于答案为何错误的理论。
在这种情况下,提示 Claude 在回答前阅读其记忆文件,然后明确测试其理论,几乎使其基准测试分数翻倍(图 5,左侧)。Sonnet 5 能够自主完成这一操作。即使未被提示,它在 10 次中有 9 次会在回答前读取记忆。相比之下,Sonnet 4.6 这样做的时间不到一半。
对于前沿 Claude 模型,我们通常只在用户明确要求或某事明显值得记忆时,给予简单的指导以创建记忆笔记,并将这一判断权留给 Claude。
梦境可以修正记忆
由于 Claude 基于其在会话中判断为重要的内容写入记忆,因此从一开始就错误或随着环境变化而偏离的记忆笔记,可能会在后续会话中被 Claude 读取并信任。
梦境为 Claude 提供了一种将笔记与原始转录文本进行比对的方法(图 6)。当 Claude 使用托管代理(Managed Agents)并在挂载目录中存储记忆来玩《宝可梦》时,我们看到了这方面的正面案例。

梦境可以修正记忆中的错误。
在游戏的一个部分,玩家需要穿越月见山(Mt. Moon),这是一个洞穴系统,入口位于地图西侧,出口位于东侧。在入口附近有一个陷阱:一个单向悬崖,会将玩家掉落回他们来的路线,且没有明显的攀爬回去的方法。Claude 使用宝可梦中心(PokéCenter)——位于山入口处的建筑——作为地标,因此它是否会掉下悬崖取决于它认为宝可梦中心位于山的哪一侧。
有一次,Claude(错误地)记录下宝可梦中心位于东侧。当它走出宝可梦中心时,它宣布:“月见山在我身后”,并更新了笔记:“月见山已完成。”但月见山实际上并不在它身后。几轮操作后,Claude 掉下悬崖,回到了它来的路线上(图 7)。它的导航工具没有显示掉落情况,因此 Claude 得出结论:“我偏西太多了”,并认为自己一直位于正确的侧边。事实并非如此。

修正后的记忆笔记改变了《宝可梦》游戏中的结果。在未修正的笔记下,Claude 说:“月见山在我身后”,前往下一座城市,最终回到了它来的路线。在梦境修正笔记后,它说:“现在我需要找到月见山洞穴入口重新进入”,并返回洞穴。
随后,我们测试了梦境是否能帮助 Claude 避免这个陷阱。我们在包含宝可梦中心错误位置的记忆文件夹上运行了梦境功能:Claude 将笔记与会话转录文本进行比对,发现了错误并进行了重写。转录文本为 Claude 提供了验证记忆的真实依据。在修正后的记忆笔记帮助下,Claude 直接返回月见山,并最终到达了华蓝市(Cerulean City)。
在未修正笔记的运行中,Claude 三次掉回到之前的路线上。第三次失败后,Claude 似乎放弃了,写道:“我将停止,而不是继续循环。”我们的设置中的自动回复指示它继续。于是它继续前进,一直回到了华蓝市之前的城镇——真新镇(Pewter City),它希望在那里治疗和补充物资。这次运行结束时,Claude 从未到达华蓝市。

“做梦”修正了记忆,Claude 重新进入洞穴并抵达下一座城市。未修正的笔记(“原始记忆”)运行无法翻越山脉,无记忆的运行也是如此。
做梦可以构建新的记忆表征
借助“做梦”机制,Claude 能够构建有助于导航记忆的代表性结构(图 9)。它使用的一种记忆表征类型称为 wiki,即由 Claude 编写和维护的一系列页面集合,用于汇总 Claude 对某一主题的知识,并将其链接到其他笔记。这些链接实际上为 Claude 提供了一张地图,使其能够筛选记忆并在需要时高效地定位记忆。

“做梦”可以构建记忆表征。
像 wiki 这样的表征结构可以帮助 Claude 遍历其不断扩大的知识库。我们使用一个内部文档语料库——约 350,000 个文件,总计约 4.2 亿 token——来探索 wiki 作为记忆表征的优势。这些文件来自 Stainless,一家我们在五月收购的软件公司。我们创建了一个包含 25 个关于该语料库问题的评估集,并为 Claude 提供了一个搜索工具来探索这些文档。我们还指示 Claude 利用“做梦”机制,基于这些文件构建一个 wiki。在 128 个会话中,我们提示 Opus 5 智能体探索文件、编写或修正链接的 wiki 页面、合并重复项,并对照来源验证声明。
每个会话都建立在智能体先前会话所取得的进展之上,并使用共享日志来协调工作。随着我们将“做梦”机制从两个会话扩展到 128 个会话,在 25 个问题上的表现从符合评估标准的 13% 增长到 48%(图 10)。
Claude 是增量构建其 wiki 的。在创建初始 wiki 后,它利用后续几轮“做梦”来添加、编辑或修剪内容。在“做梦”的早期阶段,Claude 的知识水平就像一名新员工,仅依靠 wiki 回答问题的能力有限。随着“做梦”次数的增加,其知识地图变得日益丰富,就像一名经验丰富的员工。在我们的测试中,我们发现当我们同时赋予 Claude 搜索工具访问权限时,wiki 对 Claude 的帮助最大。当它同时使用搜索工具和 wiki 时,随着 wiki 的增长,Claude 的综合得分从 54% 上升至 61%,而仅使用搜索工具时得分为 53%。当 Claude 仅使用 wiki 回答问题时,其最佳得分为 48%。使用搜索工具和 wiki 还使每个问题节省了约 20,000 个 token。

中心:随着 Claude 在连续会话中构建 wiki,关于一家公司文档语料库的 25 个问题的得分变化。左侧和右侧:经过两个和 128 个会话后的示例 wiki;每个点代表一个页面,连线连接相关的页面。
我们想测试哪些类型的任务能从 Claude 拥有 wiki 中受益。为此,我们使用了 Harvey LAB 基准测试以及一组关于并购的文档。该基准测试向 Claude 提供一组文档,并要求 Claude 基于其内容生成一份法律简报。随后,基准测试会根据一系列标准对简报进行评分。虽然这些评估可能不如玩 Pokémon 游戏那样引人入胜,但它们为我们提供了多样化的文档集合,用于构建 wiki。
我们指示 Claude 基于文档构建一个知识库(wiki)。随后,我们要求 Claude 基于该知识库或直接文件搜索来回答关于合并的问题(或生成法律简报,即 LAB 基准测试)。一项测试提出了 24 个关于合并的问题(图 11,左侧),其中超过一半的问题需要 Claude 在多个文档中查找信息,许多问题还需要 Claude 进行判断或数学计算。在这些项目(红色和橙色线条)上,当 Claude 查阅知识库时得分率为 87%,而仅使用搜索时得分率为 73%。

每个面板列出了评分内容(左侧)以及满足每个标准所需的源文档(右侧)。左侧:关于合并的 24 个问题,主要通过查看大多数公开文件即可回答。超过一半的标准需要结合多个文档中的信息。右侧:一个 LAB 任务,知识库没有显示出明显的优势。大多数标准可以从单个文档中获得。
在其他情况下,知识库的作用较小。在一个 LAB 任务中(图 11,右侧),简报标准通常可以通过从单个文档中进行文本搜索来检索,与仅使用搜索相比,知识库在性能上没有显示出明显的优势。在另一个 LAB 任务中,知识库比原始文档本身还要大(图 12)。就像博尔赫斯(Borges)的短篇小说《论科学的精确性》(“On Exactitude in Science”)中那些制图师一样,他们绘制了一幅如此详细的地图,以至于其大小与它所代表的帝国相当,Claude 构建了一个极其详细的知识库,但几乎没有进行任何抽象。

知识库变得比原始文件更大。
梦境可以促进笔记在记忆层级中向上移动
梦境还可以将笔记浮到记忆层级的顶部,并且代理框架可以在每个会话开始时将其预加载到 Claude 的上下文中(图 13)。这意味着 Claude 不需要搜索它们,甚至不需要知道有东西需要搜索。
将记忆注入新会话(这是一种上下文注入形式)必须谨慎进行。注入的记忆会消耗宝贵的 token,而且错误的笔记会被带入每个会话。加载笔记也不保证 Claude 会执行它:我们的 Claude Code 文档警告说,较长的指令文件会降低遵循度。因此,记忆层级的顶层必须保持相对较小,而梦境在此处的大部分工作就是保持这种状态——通过将一些细节移到层级下方并留下链接。
Claude Code 的自动记忆 以相同的方式保持其注入层较小,Claude 在会话期间维护它。Claude 不会将其所有自动记忆加载到每个会话的上下文窗口中。它只加载 MEMORY.md 的前 200 行或 25 KB。这个头部充当索引,向 Claude 展示它知道什么以及在哪里可以找到它。

梦境可以写入记忆层级的顶部。注入的上下文会加载到每个会话中,而当 Claude 需要时,会读取或搜索其下方的层级。
梦境可以将记忆聚焦于特定目标
梦境还能塑造记忆的成长方式。例如,Claude Duet 等助手通常受益于围绕其协助的人来组织的记忆,而梦境可以被调整以服务于特定目标来构建记忆。
指导记忆成长的指令因任务而异,并告诉 Claude 哪些信息真正重要。例如,LAB 基准测试中的一个任务模拟了公司收购,并提供了一组合同。该简报的评分取决于其是否正确地描述了合同条款。
我们最初使用了生成 wiki 的基本指令,这些指令并未告诉 Claude 如何 使用 wiki。此任务高度依赖合同条款。在构建 wiki 的过程中,多个代理同时向共享的合同条款表写入数据(图 14,左侧)。

指令更改前后,有多少已评分的合同事实进入了 wiki。左侧:多个代理写入一个共享页面;57 个事实中有 41 个幸存。右侧:每个合同一个代理,各自写入自己的页面并逐字引用条款;57 个事实全部幸存。
结果是一个缺失关键事实的 wiki。当我们对从 wiki 生成的简报进行评分时,Claude 仅包含了 57 个事实中的 41 个(72%)。当我们查看出错原因时,发现共享表格对合同条款的总结很差,并且完全遗漏了一些条款,因为代理们互相覆盖了彼此的工作。
合同条款是 wiki 中最重要的部分,但指令中并未说明这一点。为了找到更好的指令,我们运行了一个循环,让 Claude 反思其失败,提出对指令的更改,并重新构建 wiki。这个循环使 Claude 发现了遵循合同条款的重要性,并相应地重写了构建 wiki 的指令。
每个合同在 wiki 中都有自己的一页,由单个代理编写,逐字引用条款而不是将它们总结到共享表中。当我们对从这个改进后的 wiki 生成的简报进行评分时,100% 的标准都可以满足,从 72% 提升而来。
梦境可以填补会话留下的空白
当 Claude 编写记忆笔记时,它只能看到该特定会话中的上下文。梦境可以跨多个会话搜索,以发现常见模式或纠正常见错误。
在构建 LAB 基准测试的 wiki 时(例如,见图 14),有时 Claude 会链接到尚未创建的页面。第二次梦境遍历关闭了许多这些空白。在一个任务中(图 15),梦境发现了九个指向 wiki 中缺失页面的链接,并将它们重新指向同一文档的现有页面。它还添加了三个新页面,包括索引,以改进 wiki。

第二次梦境遍历前后的 wiki。
逆向思考,展望未来
关于如何为 Agent 设计记忆系统,还有许多未解之谜。其中之一是 Claude 何时应该创建记忆。当 Claude 处理任务时,它可以向记忆存储(例如文件夹、文件或数据库)写入数据,在源头捕获显著性,并使重要细节立即可用于未来的回合或会话。但是,即时记录笔记不可避免地会将 Claude 的注意力从其主要任务上分散开来。相比之下,梦境可以将记忆创建推至后台,但梦境产生的任何输出可能不会立即可用于 Claude。
另一个问题是如何确保记忆持续准确更新。Claude 可能会做出错误预测,或将一开始就错误的规则写入记忆。随着环境变化,记忆也可能发生漂移并变得无关。做梦(Dreaming)是纠正这些错误的一种方法(图 8),但需要消耗计算资源。让 Claude 持续检查所有记忆可能并不切实际。相反,重要的是将做梦聚焦于可能发生变更的信息,或仔细调整做梦的频率(例如,基于记忆被访问的频率)。
同样合理的是,将转录搜索作为 Claude 记忆的基础。将表示形式(例如,维基)与搜索相结合(图 10)有时是有效的。但 Claude 需要利用计算资源来维护记忆表示,并确保它们不会积累错误或产生幻觉。
尽管 Claude 对显著性的判断能力有所提升,但没有任何模型能够真正预知未来轮次中会发生什么。做梦为 Claude 提供了回顾的机会,使其能够利用计算资源组织记忆、纠正错误,并维护表示形式,从而让未来的会话能够更便捷地访问记忆。随着 Claude 能力的增强,记忆系统也将不断演进,我们在设计 Claude 的记忆系统方面仍有大量知识需要学习。
作者与致谢
致谢
本文由 Lance Martin 撰写,Caitlin Love、Tom Chivers、Rebecca Hiscott、Jake Eaton 和 Blake Wilson 提供了编辑指导。我们感谢 Barry Zhang、Theodora Chu、Daliang Li、Mahesh Murag、Jake Noble、Ravi Trivedi、Tina Vachovsky、Brad Abrams、Henry de Valence、Jeremy Fox、Matt Bell、Allen Li、Chris Gorgolewski、Eugene Yan、Artur Renault、Wei Zhang 和 Kevin Chen 提供的有益讨论和贡献,并感谢 David Hershey 制作 Claude Plays Pokémon。插图由 Monika Tuchowska 绘制。