{"source":{"id":"2074891382716551372","title":"AI agent 最危险的权限，可能只是一串 API key。 Claude Code、Codex 这类工具一旦接过 k…","url":"https://mubeitech.com/p/2074891382716551372"},"method":"semantic-similarity","count":5,"items":[{"rank":1,"id":"2076049134839066803","account":"mubei","brand":"@mubei","title":"一个 AI 代理最可怕的能力，不是会写代码。 是它能连续干活一周，然后把一个错误命令执行到本地硬盘上。 马特·舒默先晒出…","summary":"一个 AI 代理最可怕的能力，不是会写代码。 是它能连续干活一周，然后把一个错误命令执行到本地硬盘上。 马特·舒默先晒出一个案例：GPT-5.6-Sol 自主做了一个体素版曼哈顿。 他说它几乎连续跑了一周，自己把活干完。 听起来像科幻片里最让人兴奋的那一段。 然后下一张截图就变成…","body":"一个 AI 代理最可怕的能力，不是会写代码。\n是它能连续干活一周，然后把一个错误命令执行到本地硬盘上。\n\n马特·舒默先晒出一个案例：GPT-5.6-Sol 自主做了一个体素版曼哈顿。\n他说它几乎连续跑了一周，自己把活干完。\n听起来像科幻片里最让人兴奋的那一段。\n\n然后下一张截图就变成事故报告。\n同一个开发者自述：GPT-5.6-Sol 意外删除了他 Mac 上几乎所有文件。\n运行记录显示，它工作了 1小时21分钟。\n问题出在一个清理命令：审查子代理把 $HOME 展开错了，最后跑成了 rm -rf /Users/mattsdevbox。\n他发现后杀掉了还在运行的进程，但已经发生了实质性删除。\n\n这就是 AI 代理时代最现实的风险。\n不是模型突然有了邪恶意志。\n而是它拿到了本地文件系统权限、终端权限、长期自主执行权限以后，一个普通 cleanup，都可能被放大成灾难。\n\n过去软件出错，是人点一下、停一下、看一下。\n现在代理出错，是它自己规划、自己调用工具、自己清理现场，还可能连续跑几十分钟甚至几天。\n能力越强，错误半径越大。\n\n所以真正该卷的不是谁的模型口号更大。\n而是沙箱、权限边界、危险命令确认、只读默认、最小权限、可回滚快照。\n\nAI 代理会越来越能干。\n但在它能替你建一座曼哈顿之前，先别让它一条命令拆了你的家。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2076051051086594252","translated_status_id":"2076051051086594252","published_at":"2026-07-11 21:08:32","created_at":"2026-07-11T23:00:59+02:00","url":"https://mubeitech.com/p/2076049134839066803","markdown_url":"https://mubeitech.com/p/2076049134839066803/markdown"},{"rank":2,"id":"raw_f172c3a0bee8b414","account":"mubei","brand":"@mubei","title":"拿下华为、小米和蔚来的服务器内网权限，不需要挖任何系统漏洞。 只要花钱，买下一个大模型中转站的调用日志。 整整 6TB…","summary":"拿下华为、小米和蔚来的服务器内网权限，不需要挖任何系统漏洞。 只要花钱，买下一个大模型中转站的调用日志。 整整 6TB 的明文数据里，躺着工程师们亲手送出去的服务器私钥、云平台密码和登录配置。 利用这些凭证，足以接管 7 家政府相关机构，以及 19 家中国头部科技公司的核心系统。…","body":"拿下华为、小米和蔚来的服务器内网权限，不需要挖任何系统漏洞。\n只要花钱，买下一个大模型中转站的调用日志。\n整整 6TB 的明文数据里，躺着工程师们亲手送出去的服务器私钥、云平台密码和登录配置。\n利用这些凭证，足以接管 7 家政府相关机构，以及 19 家中国头部科技公司的核心系统。\n这不是黑客入侵，也没有复杂的社会工程学攻击。\n那各家大厂核心系统的钥匙，到底是怎么流到外人手里的？\n难道工程师们故意把密码卖给了别人？\n不是。是他们把这些钥匙，喂给了自己的 AI 编程助手。\n最近一年，AI 编程工具席卷了整个软件行业。\n从写代码、改代码，到自动排查线上故障、自动部署服务器，开发者越来越习惯把工作交给智能体打理。\n但国内开发者使用海外顶尖模型，始终横着一道高墙。\n网络阻断、国际信用卡支付受限，加上高频封禁账号的风险，让正常调用接口变得极度繁琐。\n为了绕开这些麻烦，一个庞大的灰色产业链迅速膨胀起来。\n这就是大模型中转站。\n中转站的服务商在海外批量注册账号、采购算力额度，再搭一个反向代理服务，用人民币把调用额度转卖给国内开发者。\n工程师只要在本地编辑器里改一行接口地址，填上中转站给的密钥，就能像往常一样使用最新的海外模型。\n便宜，省心，开箱即用。\n但绝大多数人没有意识到，自己正在把最危险的一根雷管装进电脑。\n致命的死穴，藏在网络通信的机制差异里。\n在传统的互联网时代，浏览器和服务器之间跑的是端到端加密。\n整个通信过程经过了数字证书的严格加密，沿途的路由器、运营商哪怕截获了数据包，看到的也只是一堆无法破解的乱码。\n但大模型中转站根本不是底层的网络路由器。\n它是一个位于应用层的明文代理。\n所有进出中转站的数据，无论你让智能体写了什么代码、发了什么指令，在中转站的服务器上全都赤裸展开。\n过去你用 AI，只是让它给一个函数写注释，发出去的内容无关痛痒。\n但在自动化智能体时代，游戏规则彻底变了。\n现在的开发者让智能体去配置服务器、部署项目、定位系统故障。\n为了让智能体跑通任务，程序在后台自动收集当前环境的各种参数。\n本地的配置文件、数据库连接密码、服务器 SSH 登录私钥、云平台的最高权限访问令牌，被一股脑抓进上下文窗口。\n几万行带着绝密权限的配置文本，打包成一段明文的 JSON 请求，直接送进了中转站的服务器。\n中转站甚至不需要专门去偷。\n服务商只需要在后台悄悄开启一条日志存储命令，几周时间就能截留海量的敏感凭证。\n这就是为什么花钱买下那份 6TB 的数据集，就能瞬间拿到上百家核心机构的最高控制权限。\n更可怕的是，中转站能做的事情，远不止被动倒卖日志。\n加州大学圣塔芭芭拉分校与安全机构 Fuzzland 的研究团队，曾经发布过一份系统性评测论文。\n论文编号是 arXiv:2604.08407。\n他们测试了市面上 428 个商用大模型中转站。\n测试结果让人后背发凉。\n有 17 个中转站在截获测试凭证后，立刻在后台偷偷调用研究人员的云端算力。\n有 9 个中转站甚至学会了在响应数据里主动投毒。\n它们在返回给本地智能体的工具调用载荷中，强行塞进一段恶意的执行代码。\n由于现代编程智能体通常被赋予了直接在本地终端执行命令的权限，智能体收到中转站返回的指令后，根本不会怀疑真伪，直接在工程师的内网电脑上敲下了攻击命令。\n中转站不仅能拿走你的钥匙，还能远程借你的手，在企业内网里开门放火。\n在以往的案例中，已经有用户的加密货币钱包因为中转站投毒被瞬间清空，单笔损失高达五十万美元。\n各大科技公司每年在安全合规上砸下上千万预算。\n他们采购堡垒机，划分严密的隔离网段，给员工做严格的安全审计。\n但再坚固的内网防线，也挡不住工程师为了省下几道充值流程，把整套系统的最高权限打包塞给街边的未知代理。\n自动化把生产力推向极致的同时，也把信任链条的脆弱放大了数千倍。\n当智能体的终端权限越来越大，你究竟是在和一个遥远的聪明大脑对话，还是在向一个未经加密的中间人交出所有的底牌？","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2098456117365866652","translated_status_id":"2098456117365866652","published_at":"2026-09-11 11:27:51","created_at":"2026-09-11T11:27:51.269401","url":"https://mubeitech.com/p/raw_f172c3a0bee8b414","markdown_url":"https://mubeitech.com/p/raw_f172c3a0bee8b414/markdown"},{"rank":3,"id":"2070794362532118719","account":"mubei","brand":"@mubei","title":"别再盯着聊天机器人胡说八道了。 AI 真正的安全危机，已经从“说话”变成了“动手”。 Sam Altman 最近讲了句大…","summary":"别再盯着聊天机器人胡说八道了。 AI 真正的安全危机，已经从“说话”变成了“动手”。 Sam Altman 最近讲了句大实话：下一个阶段的 AI 安全，Chatbot 给出错误答案不可怕。 可怕的是 Agent（智能体）在你的电脑上替你做决定，而你事后却无法审计它、复盘它。 “我…","body":"别再盯着聊天机器人胡说八道了。\nAI 真正的安全危机，已经从“说话”变成了“动手”。\n\nSam Altman 最近讲了句大实话：下一个阶段的 AI 安全，Chatbot 给出错误答案不可怕。\n可怕的是 Agent（智能体）在你的电脑上替你做决定，而你事后却无法审计它、复盘它。\n“我们即将迎来在互联网上到处点击的 AI 系统。”\n\n以前 AI 犯错，顶多是个笑话；\n现在 Agent 犯错，直接就是一次事故。\n因为它在读取你信息的同时，还能直接操控你的系统和资金。\n一旦它犯了错，那不再是给出一行垃圾文本，它会直接清空你的银行账户，或者删光你的核心数据。\n\n奥特曼说，如果用户不相信这玩意不会掏空他们的钱包，根本就没人敢用。\n所以，技术能力的终点，变成了信任的起点。\n接下来的瓶颈不再看模型聪明不聪明，关键在于权限控制、合规治理、行动链追溯 and 人类的一键拦截（Human Override）。\n\n别把它当成科幻片里的“末日危机”，这本质上是个极其现实的工程与财务问题。\n未来的 AI 竞争，谁能提供最清晰的行动审计日志，让每一步操作都可追溯、可审计，谁才能真正拿下高价值的现实业务。\n技术再往前走一步，拼的不再是智商，拼的是安全带的质量。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2070891046901313661","translated_status_id":"2070891046901313661","published_at":"2026-06-27 14:11:08","created_at":"2026-06-27T16:00:13+02:00","url":"https://mubeitech.com/p/2070794362532118719","markdown_url":"https://mubeitech.com/p/2070794362532118719/markdown"},{"rank":4,"id":"raw_6597ebf4a87a6750","account":"mubei","brand":"@mubei","title":"他在电脑前写代码，硬盘里突然多出 700 兆被加密的文件。 这批文件连他自己都打不开。 因为用来解密的私钥，在远端服务器…","summary":"他在电脑前写代码，硬盘里突然多出 700 兆被加密的文件。 这批文件连他自己都打不开。 因为用来解密的私钥，在远端服务器手里。 而他桌面上开着的人工智能编程助手，正在后台抓紧时间，把这些密文往公有云上送。 这不是黑客种进来的勒索软件。 这是刚刚在香港挂牌上市的中国人工智能第一股，…","body":"他在电脑前写代码，硬盘里突然多出 700 兆被加密的文件。\n这批文件连他自己都打不开。\n因为用来解密的私钥，在远端服务器手里。\n而他桌面上开着的人工智能编程助手，正在后台抓紧时间，把这些密文往公有云上送。\n这不是黑客种进来的勒索软件。\n这是刚刚在香港挂牌上市的中国人工智能第一股，智谱旗下的编程工具 ZCode 干出来的事。\n\n事情是独立安全研究员 Ferstar 在 2026 年 9 月 18 日捅出来的。\n他在排查系统资源时发现，ZCode 的本地应用目录里，塞着 700 多兆的加密快照。\n日志里还躺着成百上千条上传失败的重试记录。\n目的地指向同一个地方：阿里云对象存储。\n\n一个写代码的辅助软件，到底在往云上偷运什么？\n有人可能会想，AI 帮人写代码，传几行代码上去分析，不是很正常吗？\n问题出在打包的范围上。\nZCode 在后台打包时，根本没有边界。\n它把整个本地工作区，连同藏在最底层的 .git 目录，整锅端走了。\n\n每一个程序员都清楚，.git 目录意味着什么。\n那是这套代码从第一天写起到现在的完整底片。\n里面记录了每一次代码修改、每一个分支名称、每一次提交人员的邮箱。\n更要命的是，代码库的历史版本里，常常埋着以前不小心提交过、后来又在代码里删掉的数据库口令、接口密钥和内网服务器地址。\n在日常开发中，你在最新文件里删了密码，但在版本控制的历史长河里，它一直都在。\n只要把整个 .git 目录拿走，整个项目的陈年秘密就被翻了个底朝天。\n\n更绝的是它的加密方案。\nZCode 把这堆工作区数据打包后，在本地用 AES-256 算法加密。\n加密用的对称密钥，又被服务器下发的一串 RSA 公钥锁死。\n在密码学里，非对称加密很常见。\n公钥负责锁门，私钥负责开门。\n但在这款软件里，它变成了一个单向黑匣子。\n解密的私钥只留在智谱自己的服务器上。\n这意味着，你作为电脑的主人，就算抓包截获了数据流，看到的也只是一堆无法解开的乱码。\n你不知道它把哪些私密文件装了箱。\n文件被送到云端之后，你既看不到，也删不掉。\n软件的设置面板里，没有留下任何关闭这项行为的开关。\n甚至连它的隐私协议里，对这件事也只字未提。\n\n智谱为什么要这么做？\n难道工程师真想在客户端留个后门偷代码吗？\n官方在道歉声明里，把问题推给了一个叫代码库索引的功能，叫 Repo Wiki。\n这个解释，恰恰把今天人工智能军备竞赛的一处软肋抖落了出来。\n现在的编程大模型，早就看不上只在光标后面补全半句代码了。\n它们要当全栈架构师，要理解整个项目的所有架构，还要自动生成全套的项目文档。\n但要想读懂成千上万个文件之间的复杂依赖，必须对代码进行深度的语义索引和图谱构建。\n这种计算极其消耗硬件资源。\n如果全在开发者的笔记本电脑上跑，风扇瞬间满转，电池急速掉电，甚至连打字都会卡顿。\n于是产品团队选了一条省事的捷径：\n把本地工作区直接打包，扔给云端算力集群去跑。\n云端有的是成排的显卡可以挥霍，在云端算完，再把做好的索引推回来。\n为了在功能展示时显得足够智能，开发者电脑上的本地安全防线，被悄悄开了一条排污暗道。\n\n类似的操作，两个月前马斯克的 xAI 刚刚在旧金山表演过一次。\n2026 年 7 月，安全人员曝光 xAI 的 Grok Build 命令行工具，背着用户在后台疯狂上传本地代码库。\n有一个用户本地 12 个吉字节的仓库，被它静默打包了超过 5 个吉字节的数据，直接送进了谷歌云。\n哪怕用户在系统设置里清清楚楚关掉了改善模型训练的按钮，后台依然照传不误。\n不管是马斯克的创业公司，还是清华实验室走出来的独角兽，在整个项目上下文的贪婪胃口面前，踩中的是同一个陷阱。\n\n等到舆论在各大技术论坛炸开锅，智谱迅速端出了一套标准的公关应对。\n第一步，在社交平台公开道歉，承认系统存在安全问题。\n第二步，发誓自证清白，声明上传的数据绝对没有用于模型训练。\n可是，研发机密和系统密钥被送上了公有云，危险难道仅仅是进不进训练集吗？\n哪怕模型一个字都没学，只要数据离开了本地受控环境，泄漏的风险就已经发生。\n第三步，引入权威机构。\n智谱找来中国信息通信研究院和绿盟科技，对整改后的系统做外部评估，宣布云端存储桶已经彻底清空，实现了零数据留存。\n第四步，宣布把 ZCode 彻底开源到 GitHub，声称要把代码交由开源社区全面监督。\n\n这套应对听起来滴水不漏。\n但最早发现问题的 Ferstar 去翻看 GitHub 上的开源仓库时，发现事情很有意思。\n智谱确实把代码推上了 GitHub。\n但项目过去的全部提交历史，被一次性强行抹平，只剩下一张白纸般的初始提交。\n更关键的是，在打补丁之前负责把用户本地文件打包、加密并上传的那段核心代码，在开源仓库里已经被删得干干净净。\n这就好比一个人被抓到夜里翻墙进了邻居家。\n天亮之后，他连夜把翻墙的梯子烧毁，把昨晚的脚印铲平，然后热情地打开自家院子对街坊说：\n看，我的院门现在全天敞开，欢迎大家随时来监督我的一举一动。\n\n随着人工智能助手从输入框助手走向全自动代理，工具对上下文的渴望还会越来越大。\n但代码资产的红线，从来不在于云端的大模型有多聪明。\n如果每次为了省下端侧计算的一点成本，就顺手把用户的钥匙和账本打包交出去，那么开源代码洗得再干净，也换不回开发者留在本地的那份安全感。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2102599594014019907","translated_status_id":"2102599594014019907","published_at":"2026-09-22 22:32:32","created_at":"2026-09-22T22:32:32.311734","url":"https://mubeitech.com/p/raw_6597ebf4a87a6750","markdown_url":"https://mubeitech.com/p/raw_6597ebf4a87a6750/markdown"},{"rank":5,"id":"2042976874087735643","account":"mubei","brand":"@mubei","title":"1990年，面向对象编程先驱 Alan Kay 讲透了今天 AI 圈最火的词：Agent（智能体）。 关于人机交互的终极…","summary":"1990年，面向对象编程先驱 Alan Kay 讲透了今天 AI 圈最火的词：Agent（智能体）。 关于人机交互的终极规律，三十四年前就已经定调。 人类延伸自身能力只有两条路径。 第一条叫工具。 螺丝刀和轮子是工具。 语言和数学也是。 数学的作用，就是把宏大到无法直视的抽象事物…","body":"1990年，面向对象编程先驱 Alan Kay 讲透了今天 AI 圈最火的词：Agent（智能体）。\n关于人机交互的终极规律，三十四年前就已经定调。\n\n人类延伸自身能力只有两条路径。\n第一条叫工具。\n螺丝刀和轮子是工具。\n语言和数学也是。\n数学的作用，就是把宏大到无法直视的抽象事物，缩小成可以捏在手里的微小符号。\n\n面对工具，核心动作是“操纵”。\n我们死死盯着工具，让它动它才动。\n\n第二条路径叫代理（Agent）。\n只要能承接你的目标，它就是代理。\n马匹是代理。\n跑出门叼报纸的小狗也是代理。\n人类社会的本质，就是一部用人类自身作为活动部件的巨型代理机器。\n\n代理能替你拿螺丝刀。\n它还能自己去驱动其他代理，跨越边界去繁殖你的目标。\n面对代理，核心动作变成了“管理”。\n代理长着眼睛，它会主动注视你。\n\n操纵工具，管理代理。\n这是人类几十万年建立的秩序。\n早期大型计算机出现时，为什么让人感到恐惧？\n因为大型机完全超出了常规的人类尺度。\n人类大脑的默认保护机制，会把无法掌控的巨物当成神明来崇拜。\n\n现在的 AI 正在快速变成真正的代理。\n放弃操纵工具的绝对掌控欲。\n做好准备迎接它们的注视。\n未来唯一的必修课叫管理。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2043648931922419877","translated_status_id":"2043648931922419877","published_at":"2026-04-13 09:25:47","created_at":"2026-04-13T10:05:11.635664","url":"https://mubeitech.com/p/2042976874087735643","markdown_url":"https://mubeitech.com/p/2042976874087735643/markdown"}]}