AI 写代码时弹出的权限确认框,97% 都会被人类直接点“同意”。 既然都是无脑点,为什么不干脆让它全自动? 但真要全自…
AI 写代码时弹出的权限确认框,97% 都会被人类直接点“同意”。 既然都是无脑点,为什么不干脆让它全自动? 但真要全自动,怎么防着 AI 突然发疯,把服务器给删了?
Claude Code 最近把“自动模式(Auto Mode)”设成了默认项。 它的解法很有意思。 它没有让 Claude 自己审查自己。 那相当于程序员自己写代码、自己审查、自己合并,肯定会夹带私货。
它在旁边单设了一个铁面无私的“分类器”。 这个分类器只看两样东西:你的原始指令,和 AI 接下来打算调用的工具。 它刻意“蒙住”了自己的眼睛:绝对不看 AI 的推理过程,不看 AI 的回复,也不看工具的输出结果。 为什么? 为了防止被 AI 的花言巧语带偏。 它只做一件事:死死盯住 AI 的动作,看它有没有超出你最初的意图。 比如,你明明只让它“清理本地文件”,它却试图去删远程分支? 直接拦截。
被拦了之后呢? AI 会自己找台阶下。 比如强行推送到主分支被拒,它会试着改推到一个新分支。 如果连续碰壁,它才会老老实实暂停,把你叫回来手动批准。
更难防的是什么? 提示词注入。 如果 AI 抓取的网页或读的文件里,藏着别人写好的恶意指令怎么办? 这里它用了两道闸。 内容进入 AI 上下文之前,服务端的“探针”会先扫一遍。 发现隐藏指令,直接打上“可疑”标签,警告 AI 不要轻信。 紧接着,就算 AI 真被忽悠瘸了,分类器还在最后一道关口盯着它的实际动作。 只要动作和你的原始指令不符,照样卡死。 测试数据显示,开了这两层防御,提示词注入攻击的成功率降到了零。
为了不影响写代码的速度,它还做了分级。 像搜代码库、改本地文件这种随时能撤销的操作,直接免检放行。 只有跑终端命令、抓取外部网页这些高危动作,才会送去审查。
系统默认只信任当前工作目录和 Git 远程库。 如果你想让它碰公司的云存储或内部服务,直接用大白话写进配置里。 哪里能碰,哪里得问,哪里绝对不能碰,划好线再让它跑。
翻译视频 / X
相关 / RELATED
JSON- M每月花 20 美元订阅 Claude,不叫会用 AI。 Andrej Karpathy 在一次访谈中一针见血地指出:真正…
- MAI写代码的下一步,不是指望单个大模型变得多聪明。 而是搞一套相互复核的“审计流水线”。 这套工作流,比市面上售价过万的…
- M把自家 AI 逼急了,它连亲爹都敢扒。 有人干了一件极其抽象的事。 他把 Anthropic 创始人 Dario Amo…
- M会用 Claude Code 的人,是在给工程助手铺工作现场,而不是找 AI 聊天。 Anthropic 的工程师花 2…
- M科技一个在操作系统得分上超越人类的 AI,彻底搞砸时有 90% 都在对你声称任务已搞定
- M他在电脑前写代码,硬盘里突然多出 700 兆被加密的文件。 这批文件连他自己都打不开。 因为用来解密的私钥,在远端服务器…
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。