把脑子和双手彻底切开:Anthropic 平台团队揭秘自主智能体的工程底座
让 AI 自己敲键盘、跑程序,工程上最怕什么?
写错几行代码根本不算什么。
最怕的是它在沙箱里跑脚本时,顺手把你的系统密钥偷走;
或者程序突然报错崩溃,把整个会话的记忆当场清零。
Anthropic 做 Claude 平台工程的负责人 Katelyn Lesse 和产品负责人 Angela Jiang,最近讲明白了他们是怎么防这件事的。
核心的架构就一句话:
把脑子和手切开。
听起来像一句漂亮的比喻。
工程上到底是怎么切的?
先看手。
所谓的手,就是真正跑代码、改文件、敲命令的隔离沙箱。
以前很多人搭智能体,喜欢把大模型的推理循环跟代码执行环境塞进同一个容器里。
结果只要代码执行时内存爆了,或者网络超时,整个智能体的运行状态跟着灰飞烟灭。
更要命的是安全。
要是沙箱里放了 API 密钥或者代码仓库权限,只要有人给模型喂一段恶意提示词,诱导它把环境变量打印出来,密钥瞬间就漏光了。
Anthropic 定的第一条铁律,就是绝对不信任这双手。
你的凭证和密钥,物理上根本不准进沙箱。
那 Claude 要调外部接口或者提交代码怎么办?
它在沙箱里发起请求,所有的调用全部由沙箱外部的专用代理服务拦截。
代理服务在外面核验身份、打上临时权限,再替它去操作。
沙箱里面连一张能偷的底牌都没有。
就算模型真被提示词注入骗了,在沙箱里翻个底朝天,能看到的也是一个干干净净的空壳。
而且手是随时可以扔掉的。
这个沙箱跑崩了?
直接掐死销毁,立刻再起一个新的。
那脑子怎么办?会话不会丢吗?
这就到了切开的另一半:脑。
脑由两部分组成,一个是模型本身的思考,另一个是记录全过程的会话日志。
Anthropic 把所有的操作记录,放在上下文窗口和沙箱的最外层,存成一个只追加不修改的独立日志。
沙箱死了一万次,外面的脑子只要读一遍日志,就能毫秒级接回上一步的进度。
但这还不够。
真让智能体去改一个大工程,连续跑几个小时,最容易碰到的问题是失忆和半途而废。
上下文窗口塞得太满,模型开始前言不搭后语;
或者才跑了十分钟,它就自信满满地宣布自己搞定了,结果一跑全是报错。
Anthropic 怎么治这个毛病?
他们干脆把干活的人拆成了两个:初始化专员和编码工人。
第一个初始化模型只跑一次。
它读完需求,写一个启动脚本 init.sh,然后把所有要做的功能,拆成一个结构化的 JSON 文件。
为什么不用 Markdown 文档?
因为模型更新 Markdown 经常手滑删掉结构,而 JSON 的语法约束极强,模型不容易改坏。
接下来,编码模型登场。
它每次在一个完全干净的新会话里醒来。
它不靠脑子记上一个小时发生了什么,直接去读那个 JSON 文件和 Git 提交记录。
找到当前未通过的第一项,调出沙箱,跑启动脚本,只修这一个功能。
测试跑通了,去 JSON 里打个勾,打一个 Git 提交,然后立刻主动结束会话。
下一轮再醒来的时候,依然是一个脑子清爽、没有上下文污染的新会话,接着打下一个勾。
顺便说一个很多人没想到的细节。
大家聊大模型智能体,天天盯的是显卡和算力。
但 Katelyn Lesse 说,真正把他们服务器逼到墙角的,倒是最底层的 CPU。
成千上万个智能体同时在线,海量的流式传输、网络连接和状态分发,全是 CPU 的硬负载。
为了啃下这块硬骨头,Anthropic 的工程团队直接用 Rust 把核心的消息 API 彻底重写了一遍。
有意思的是,这支团队最开始甚至没几个真正精通 Rust 的工程师。
他们大量借助 Claude 帮自己写代码和迁移。
重写上线之后,效果立竿见影:
CPU 消耗直接砍掉了 40% 到 50%;
首字生成延迟直接降了 10% 到 20%。
把脑子和手彻底分开。
手坏了随时能换,脑累了随时能歇,钥匙永远留在门外的保险柜里。
复杂的活,就这么一步一步啃下来了。
语义相关 / RELATED
- 把大脑和双手彻底切开:Anthropic 怎样解决智能体崩溃与凭证泄露
- AI模拟一个真人的行为,准确率能达到多少? 83%。 听起来不够完美? 拿这个数据跟真人比一下。 同一个实验里,让真人相…
- Anthropic 内部是怎么干活的? 一名内部工程师透露,超过 80% 的工程师,已经把工作交给了自我迭代的 AI 智…
- Anthropic 工程师在 AI DevCon 上 :别再哼哧哼哧给 AI 写 Prompt 了,真正的方向是构建一个…
- Anthropic独家网络模型Mythos的访问权限,被人拿到了。 一个未授权组织,通过一家第三方供应商直接摸进了核心。…
- Anthropic 天才研究员出逃背后:防御性军备竞赛如何把安全公司变成加速引擎
同领域解读 / AI & LLMS
规范引用 / CANONICAL CITATION
把脑子和双手彻底切开:Anthropic 平台团队揭秘自主智能体的工程底座 — 墓碑科技 MUBEITECH(https://mubeitech.com/deep/mb-20261027-92bcd7)
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。