记忆塞得越多越蠢:Claude Code 每次只读 200 行索引,Anthropic 用 35 万份文件验证了这件事
Anthropic 在 11 月 6 日发了一篇工程博客,作者 Lance Martin,讲 Claude 的 agent 记忆是怎么设计的、以及他们拿什么把它测出来。
最该先记住的是一个数字:Claude Code 每个会话启动时,只加载 MEMORY.md 的前 200 行或 25 KB,哪个先到算哪个。
也就是说,你写的记忆文件可以有几万字,但真正进入上下文窗口的只有开头那一小段。剩下的是索引指向的仓库,用到才去翻。
记忆被拆成了 4 层
从下往上:会话记录(transcripts,可搜索的事件日志,是事实基准)、记忆笔记(Claude 自己写的显著观察)、记忆表征(wiki 那种多页面互相链接的知识地图)、注入上下文(每次会话开头预加载的那一小块)。
夹在中间的动作叫 dreaming,任务间隙离线跑:读历史记录,对照原始日志改掉写错的笔记、合并重复、补链接、把细节往下层挪,只在上层留下索引。
这个分工借的是人脑:海马体在当下快速记录,睡眠时回放、蒸馏、整合进新皮层。Letta 和 UC Berkeley 提的 sleep-time compute 是同一个思路。
数字:记忆确实有用,但增益不是均匀的
在 Continual Learning Bench 1.0 的数据库任务上(每题开新会话,唯一能跨会话带过去的是一个持久记忆目录),平均奖励这么变:
- Opus 5.5:0.655 → 0.838
- Sonnet 5.5:0.644 → 0.833
- Opus 5:0.564 → 0.828
- Opus 4.7:0.383 → 0.700
- Sonnet 5:0.306 → 0.610
- Sonnet 4.6:0.330 → 0.364
越老的模型涨得越多,因为基线低。但 Sonnet 4.6 几乎没动——它写了记忆,却只是把几个没验证过的猜测摊在文件夹里。给它一句「先读记忆文件再回答,并显式检验你的假设」,分数从 0.364 抬到 0.641。
wiki 的价值出现在跨文档的地方
他们拿被收购的 Stainless 的内部文档做语料:约 35 万个文件、约 4.2 亿 token,配 25 个问题。
只让模型搜文件:53%。只给它一个 wiki:48%。两个一起用:61%。
单看 61% 这个数不惊人,惊人的是成本:同时用搜索和 wiki,每题省约 2 万 token。省的原因是 wiki 把「这 4.2 亿 token 里哪些地方讲过这件事」提前压缩成了链接结构,模型不用一次次把原始文件拖进上下文。
另一个数字更能说明 wiki 擅长什么:在 Harvey LAB 那组需要跨多份文档整合、判断和算数的 24 个问题上,wiki 87%、只用搜索 73%。而在答案就在单份文件里的任务上,wiki 没有可测的增益。
宝可梦那组对比,是「记忆要少」最硬的证据
旧版 Sonnet 3.7 玩《宝可梦 红》,写了 413 个记忆文件、撒在 225 个文件夹里,约 97.8 万字符,最后拿到 1 枚徽章。
Fable 5 只留了 9 个文件,加一个顶层 global.md,约 4.3 万字符,拿到 4 枚徽章。Opus 5.5 用一个小笔记文件夹直接通关。
差别不在记多少,在记什么。3.7 把每回合屏幕上都能重新读到的状态(金钱、坐标)也记了,笔记很快过期,还占掉本该用来做决策的回合。Fable 5 记的是策略、计划、验证过的规则——那些「下次再看屏幕也看不出来」的东西。
还有一个纠错案例值得单独记:Claude 早先把宝可梦中心的方位写反了(写在山的一侧,实际在另一侧)。dreaming 拿这条笔记去比对会话记录,发现对不上,改写了它。改对之后,第 1935 个动作到达 Cerulean City;没改的那次,反复掉回原路 3 次,最后放弃,退回 Pewter City;完全不给记忆的那次,从来没到过。
对一人公司怎么用
如果你在用 Claude Code、Codex、Cursor 这类带记忆或规则文件的工具,现在就可以做三件事,10 分钟内能做完:
第一,量一下你的 MEMORY.md / AGENTS.md / CLAUDE.md 有多少行。超过 200 行的那部分,按 Anthropic 的做法其实没有进入上下文。把它改成索引:每条一行,写「什么事 / 去哪个文件看」,细节挪到单独文件。你的记忆文件越长,越可能有一半内容从来没被读到过。
第二,检查里面记的是不是「屏幕会告诉你的事」。项目结构、依赖版本、某个函数在哪——这些每次能重新读到的,不该占记忆。值得写的是:上次这个 bug 真实原因是什么、客户明确否掉过哪个方案、验证过哪条规则别乱改。
第三,找一次机会做回放校验。不用上 dreaming,手动做也行:挑一条你确信的笔记,回到当时的会话记录核对一遍。Anthropic 那组数据的含义是,注入层的错误会被带进每一个后续会话,而它自己不会发现。
泼冷水
这套基准是 Anthropic 自家的语料、自家的评测集,语料还是他们 5 月收购的公司内部文档。换到你那些脏得多的数据上,61% 和 2 万 token 都不保证复现。
dreaming 也不是免费的。128 轮会话对应 128M 的 dreaming token,wiki 从 103 页 766 条链接长到 222 页 12893 条链接——这套东西的成本随语料规模和整理频率线性上涨,小团队得自己算该多久跑一次。
更该提防的是「记忆毒化」。那篇博客自己列了开放问题:记忆会漂移、会错,而全量持续校验不现实。wiki 还有个反直觉的陷阱——它不该比原始语料更大,因为一个试图 1:1 复刻地形的精确地图,本身就没用了。
具体建议
这周别急着搭 wiki。先把你现有的那份记忆文件砍到 200 行以内,砍掉的部分写成索引指向的文件,然后连续 3 天观察 agent 有没有因为「找不到」而变差。
如果变差了,说明你的索引写得不够具体(缺「去哪找」);如果没变差,你就白拿了一份更短的上下文,还省了每次会话的 token。
原文:https://www.anthropic.com/research/components-of-agent-memory
记忆工具的文档在 https://platform.claude.com/docs/en/agents-and-tools/tool-use/memory-tool ,dreaming 的文档在 https://platform.claude.com/docs/en/managed-agents/dreams ,动手前先确认你的套餐能不能用。