其它·via @mubei

Anthropic 工程师在 AI DevCon 上 :别再哼哧哼哧给 AI 写 Prompt 了,真正的方向是构建一个…

Anthropic 工程师在 AI DevCon 上 :别再哼哧哼哧给 AI 写 Prompt 了,真正的方向是构建一个能自己写 Prompt 的系统。

AI 应用开发的底层范式,正在发生一场海啸般的迁徙: 从“写一句好 Prompt”,彻底转向“设计一个会管理上下文、记忆 and 反馈回路的系统”。

简单来说,你不需要去调教 AI,你需要构建一个能自己给自己写 Prompt、自己进化记忆的系统。

绝大多数开发者还在用手工业的方式调教大模型,而最前沿的玩法,已经把 Agent 架构抽象成了一套极具美感的工业化框架。 这套框架可以直接保存,分为三层:

第一层:动态记忆管理(In-band Memory) 很多人一上来就把所有背景资料塞进 Context,结果就是 Context 爆炸,AI 开始胡言乱语。 最聪明的做法是“文件系统化”: 1. 把所有背景知识写成结构化的 Markdown 文件。 2. 不要写死复杂的读取工具,直接让 Agent 像程序员一样,用 Bash 和 Grep 去自主检索、读取和修改这些文件。 3. 渐进式披露(Progressive Disclosure):只给 Agent 看文件头部的几句摘要,它觉得有用,再去加载细节。

第二层:生产级的工程防线(Production Guardrails) 单 Agent 跑 demo 很爽,多 Agent 协作就会天下大乱。你需要这三道锁: 1. 并发锁(Concurrency):两个 Agent 同时想修改同一个记忆文件怎么办?引入哈希校验(Hashing)。Agent 准备修改前算个哈希值,写完提交前再算一次,如果对不上,说明中间被别人改过,立刻撤回、重新拉取、重新编辑。 2. 权限隔离(Permissioning):组织级别的公共知识库只读,Agent 自己的草稿本(Scratchpad)可写。防止某个 Agent 犯傻,把污染过的脏数据写进公共记忆,毁掉整个 Fleet。 3. 版本控制(Versioning):每一次记忆更新都有可追溯的 Transcript(对话副本),随时可以回滚。

第三层:终极闭环,离线“梦境”机制(Dreaming) 这是整套架构最核心的设计。

为什么你觉得 Agent 越用越笨? 因为你让它边干活、边整理记忆。 这就像让一个外卖员一边骑车送外卖,一边总结全城的交通堵塞规律。不仅分心、增加延迟,而且他的视角只有自己走过的那几条路。

怎么办?把“执行”和“复盘”彻底解耦。 引入一个异步的离线进程,我们称之为“梦境(Dreaming)”: 1. 到了晚上,干活的 Agent 都歇了。 2. 启动一个专门的“复盘 Agent”,它不干别的,只做一件事:调出今天所有 Agent 的聊天记录、报错日志,和现有的“记忆库”进行比对。 3. 像校长批改期末试卷一样,它会发现规律:“怎么今天 80% 的 Agent 在写代码时都犯了同一个单位错误?” 4. 找到痛点后,它直接修改公共记忆库,更新下一天的“操作指南”。

第二天一早,你的 Agent 舰队醒来,自动加载了更新后的记忆。 你什么都没干,它们自己学会了避免昨天的错误。

当所有人都在大谈大模型智商(IQ)的时候,真正的套利者已经在悄悄构建这套系统了。 因为模型的智商是别人给的,而这个持续自我进化的“梦境”闭环,才是你真正的、拿不走的护城河。

翻译视频 / X

导出 / EXPORT