深度解读AI 与大模型generatedpublished

把脑子和双手彻底切开:Anthropic 平台团队揭秘自主智能体的工程底座

机制

让 AI 自己敲键盘、跑程序,工程上最怕什么?

写错几行代码根本不算什么。

最怕的是它在沙箱里跑脚本时,顺手把你的系统密钥偷走;

或者程序突然报错崩溃,把整个会话的记忆当场清零。

Anthropic 做 Claude 平台工程的负责人 Katelyn Lesse 和产品负责人 Angela Jiang,最近讲明白了他们是怎么防这件事的。

核心的架构就一句话:

把脑子和手切开。

听起来像一句漂亮的比喻。

工程上到底是怎么切的?

先看手。

所谓的手,就是真正跑代码、改文件、敲命令的隔离沙箱。

以前很多人搭智能体,喜欢把大模型的推理循环跟代码执行环境塞进同一个容器里。

结果只要代码执行时内存爆了,或者网络超时,整个智能体的运行状态跟着灰飞烟灭。

更要命的是安全。

要是沙箱里放了 API 密钥或者代码仓库权限,只要有人给模型喂一段恶意提示词,诱导它把环境变量打印出来,密钥瞬间就漏光了。

Anthropic 定的第一条铁律,就是绝对不信任这双手。

你的凭证和密钥,物理上根本不准进沙箱。

那 Claude 要调外部接口或者提交代码怎么办?

它在沙箱里发起请求,所有的调用全部由沙箱外部的专用代理服务拦截。

代理服务在外面核验身份、打上临时权限,再替它去操作。

沙箱里面连一张能偷的底牌都没有。

就算模型真被提示词注入骗了,在沙箱里翻个底朝天,能看到的也是一个干干净净的空壳。

而且手是随时可以扔掉的。

这个沙箱跑崩了?

直接掐死销毁,立刻再起一个新的。

那脑子怎么办?会话不会丢吗?

这就到了切开的另一半:脑。

脑由两部分组成,一个是模型本身的思考,另一个是记录全过程的会话日志。

Anthropic 把所有的操作记录,放在上下文窗口和沙箱的最外层,存成一个只追加不修改的独立日志。

沙箱死了一万次,外面的脑子只要读一遍日志,就能毫秒级接回上一步的进度。

但这还不够。

真让智能体去改一个大工程,连续跑几个小时,最容易碰到的问题是失忆和半途而废。

上下文窗口塞得太满,模型开始前言不搭后语;

或者才跑了十分钟,它就自信满满地宣布自己搞定了,结果一跑全是报错。

Anthropic 怎么治这个毛病?

他们干脆把干活的人拆成了两个:初始化专员和编码工人。

第一个初始化模型只跑一次。

它读完需求,写一个启动脚本 init.sh,然后把所有要做的功能,拆成一个结构化的 JSON 文件。

为什么不用 Markdown 文档?

因为模型更新 Markdown 经常手滑删掉结构,而 JSON 的语法约束极强,模型不容易改坏。

接下来,编码模型登场。

它每次在一个完全干净的新会话里醒来。

它不靠脑子记上一个小时发生了什么,直接去读那个 JSON 文件和 Git 提交记录。

找到当前未通过的第一项,调出沙箱,跑启动脚本,只修这一个功能。

测试跑通了,去 JSON 里打个勾,打一个 Git 提交,然后立刻主动结束会话。

下一轮再醒来的时候,依然是一个脑子清爽、没有上下文污染的新会话,接着打下一个勾。

顺便说一个很多人没想到的细节。

大家聊大模型智能体,天天盯的是显卡和算力。

但 Katelyn Lesse 说,真正把他们服务器逼到墙角的,倒是最底层的 CPU。

成千上万个智能体同时在线,海量的流式传输、网络连接和状态分发,全是 CPU 的硬负载。

为了啃下这块硬骨头,Anthropic 的工程团队直接用 Rust 把核心的消息 API 彻底重写了一遍。

有意思的是,这支团队最开始甚至没几个真正精通 Rust 的工程师。

他们大量借助 Claude 帮自己写代码和迁移。

重写上线之后,效果立竿见影:

CPU 消耗直接砍掉了 40% 到 50%;

首字生成延迟直接降了 10% 到 20%。

把脑子和手彻底分开。

手坏了随时能换,脑累了随时能歇,钥匙永远留在门外的保险柜里。

复杂的活,就这么一步一步啃下来了。

语义相关 / RELATED

同领域解读 / AI & LLMS

查看全部「AI 与大模型」解读 →

规范引用 / CANONICAL CITATION

把脑子和双手彻底切开:Anthropic 平台团队揭秘自主智能体的工程底座 — 墓碑科技 MUBEITECH(https://mubeitech.com/deep/mb-20261027-92bcd7)

导出 / EXPORT

订阅 · SUBSCRIBE

每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。

不追踪邮件打开与邮件链接点击,一键退订。 或用 RSS · 详情