{"source":{"id":"2042698884682780794","title":"几周时间挖出的代码漏洞，比一辈子加起来都多。 世界顶级 AI 安全研究员 Nicholas Carlini 放出这句狠话…","url":"https://mubeitech.com/p/2042698884682780794"},"method":"semantic-similarity","count":4,"items":[{"rank":1,"id":"2038666714251169903","account":"mubei","brand":"@mubei","title":"顶级安全黑客向一个大模型认输了。 Nicolas Carlini。 谷歌学术引用量超过 6.7 万的顶级研究员。 他亲口…","summary":"顶级安全黑客向一个大模型认输了。 Nicolas Carlini。 谷歌学术引用量超过 6.7 万的顶级研究员。 他亲口承认，Claude 找代码漏洞的能力比他自己还要强。 看看机器的战绩。 去挖智能合约的漏洞，直接进账 370 万美元。 在拥有 5 万标星的知名开源项目 Gho…","body":"顶级安全黑客向一个大模型认输了。\n\nNicolas Carlini。\n谷歌学术引用量超过 6.7 万的顶级研究员。\n他亲口承认，Claude 找代码漏洞的能力比他自己还要强。\n\n看看机器的战绩。\n去挖智能合约的漏洞，直接进账 370 万美元。\n在拥有 5 万标星的知名开源项目 Ghost 里，它轻易就抠出了致命破绽。\n\n这要怎么防？\nCarlini 甚至不敢把手里的漏洞报告交出去。\n他在 Linux 内核里用 AI 跑出了几百个系统崩溃案例。\n漏洞的产出速度完全碾压了人类的验证速度。\n如果一口气全发给开源社区，开发者只会当成恶意灌水的垃圾信息。\n\n以前，这种级别的深层漏洞全世界只有一两个天才才能摸到门道。\n现在，大模型把它变成了无人值守的流水线。\n\nCarlini 警告防守方的时间只剩几个月。\n很快，手里握着成百上千个致命漏洞的，绝不仅是大厂研究员。\n任何一个心怀恶意的普通人，都能随意调用这种恐怖的破坏力。\n\n人工修补的速度已经永远追不上机器挖掘的自动化。\n\n摧毁一座数字城池的成本，马上就会变成几美分的电费。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-01 09:55:38","created_at":"2026-04-01T11:51:02.462532","url":"https://mubeitech.com/p/2038666714251169903","markdown_url":"https://mubeitech.com/p/2038666714251169903/markdown"},{"rank":2,"id":"2100852443449856068","account":"mubei","brand":"@mubei","title":"三个人，就把 OpenAI 的系统黑了。 没用什么国家级黑客团队。 工具极其普通：三个克劳德（Claude）Opus 4…","summary":"三个人，就把 OpenAI 的系统黑了。 没用什么国家级黑客团队。 工具极其普通：三个克劳德（Claude）Opus 4.8 的订阅账号。 高级网络渗透的门槛，一夜之间被砸到了地板上。 以前要撬开这种级别的防御，顶尖黑客得熬上好几个月。 现在三个人配上商用模型，直接把内网撕开了口…","body":"三个人，就把 OpenAI 的系统黑了。\n没用什么国家级黑客团队。\n工具极其普通：三个克劳德（Claude）Opus 4.8 的订阅账号。\n高级网络渗透的门槛，一夜之间被砸到了地板上。\n\n以前要撬开这种级别的防御，顶尖黑客得熬上好几个月。\n现在三个人配上商用模型，直接把内网撕开了口子。\n进攻的成本，几乎降到了零。\n防守的代价，瞬间变成了无底洞。\n\n自家系统被端，巨头们会忙着认错补漏洞吗？\n不会。\n转过头，这起事故就会被端上听证会，变成最好的国家安全借口。\n\n说辞都是现成的。\nAI 的破坏力这么大，怎么能允许开放模型权重？\n要是人人都能随意下载，岂不是人手一把网络武器？\n唯一的管控办法，就是推行严格的许可证准入。\n\n没有官方审批，谁也不准发布开源模型。\n独立开发者被迫离场，小创业团队直接出局。\n自家的系统漏成了筛子，反手就借着国家安全给开源套上绞索。\n一场原本尴尬的安全事故，就这么变成了闭源巨头最坚固的合规护城河。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2100855592428482598","translated_status_id":"2100855592428482598","published_at":"2026-09-18 07:48:13","created_at":"2026-09-18T09:40:29+02:00","url":"https://mubeitech.com/p/2100852443449856068","markdown_url":"https://mubeitech.com/p/2100852443449856068/markdown"},{"rank":3,"id":"mb-20260902-1d7f5b","account":"mubei","brand":"","title":"网络安全机构 Forescout 做了一场特种攻防实验","summary":"网络安全机构 Forescout 做了一场特种攻防实验","body":"网络安全机构 Forescout 做了一场特种攻防实验。\n研究人员让 Claude 接入终端和逆向工具，把一段针对工业控制器的攻击代码，移植到了另一款完全不同型号的设备上。\n在真实的硬件环境里，成功执行了未授权的底层指令。\n整个过程耗时 8 小时 32 分钟。\n消耗了 535 美元的 API 调用费用。\n很多人看到这个消息，争论的焦点全被带偏了。\n恐慌派惊呼人工智能即将自主瘫痪全球电网。\n怀疑派嘲笑它中途烧毁了一块芯片主板，还要靠人类专家反复纠偏，根本算不上自主武器。\n这两边都没看清真正发生的变化。\n人工智能在这里击穿的，到底是什么？\n工业控制系统的底层安全，从来不依赖代码本身没有缺陷。\n它依赖的是一道被称为硬件碎片化的隐形壁垒。\n在普通的云端服务器和个人电脑上，一个软件漏洞往往能通杀数以百万计的同构设备。\n但在水厂、变电站和工业流水线，底层的物理硬件高度离散。\n哪怕两台控制器运行着完全相同的实时操作系统，存在同一个网络栈溢出漏洞（比如这次测试的 Nucleus 漏洞 CVE-2021-31886）。\n只要芯片型号或者固件版本发生改变，内存布局、寄存器分配、编译优化和栈帧偏移量就会全盘重构。\n一段在 WAGO 750-852 控制器上能精准劫持权限的攻击载荷，直接打到 WAGO 750-831 上，只会立刻触发保护机制导致停机。\n想要完成跨型号的武器化移植，过去需要顶尖的固件逆向专家对着 Ghidra 反编译界面，耗费数周时间手动测算内存地址并重写 ARM 机器码。\n这种极高的移植摩擦成本，构成了工业控制系统最硬的护城河。\n这也是为什么在过去二十年里，针对关键基础设施的特种网络攻击（比如当年的震网病毒 Stuxnet），必须由国家级团队投入数百万美元预算和长期工程力量才能实现。\n工业领域还有一个普遍存在的现实。\n为了保障关键设施连续运转，水厂和电网里的控制器往往连续运行十几年不敢停机打补丁。\n海量已知漏洞（N-Day）就这么常年暴露在物理网络中。\n这些老旧设备能相安无事，并不代表系统有多坚固。\n纯粹是因为针对每一个冷门硬件型号单独定制攻击武器，在经济上极不划算。\nClaude 在这场实验里展现的杀伤力，并不是凭空发现未知的零日漏洞。\n它是把固件逆向分析、符号重构与内存偏移量重算，变成了一道边际成本极低的编译翻译题。\n8 个小时，535 美元。\n它确实需要人类工程师提供上下文引导。\n它也确实因为向闪存保护区误写数据而报废了一台硬件。\n但它已经把原本属于顶级国家实验室的特种攻击门槛，压低到了普通技术团队的射程之内。\n工业世界靠硬件异构碎片化建立的天然防御，正在被算法的算力成本迅速抹平。\n当跨硬件移植攻击代码的代价被压缩到几百美元，那些在基础设施里运转了二十年没打过补丁的工业设备，赖以生存的物理屏障已经不复存在。","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-09-02 12:19:58","created_at":"2026-09-02 12:19:58","url":"https://mubeitech.com/p/mb-20260902-1d7f5b","markdown_url":"https://mubeitech.com/p/mb-20260902-1d7f5b/markdown"},{"rank":4,"id":"raw_6597ebf4a87a6750","account":"mubei","brand":"@mubei","title":"他在电脑前写代码，硬盘里突然多出 700 兆被加密的文件。 这批文件连他自己都打不开。 因为用来解密的私钥，在远端服务器…","summary":"他在电脑前写代码，硬盘里突然多出 700 兆被加密的文件。 这批文件连他自己都打不开。 因为用来解密的私钥，在远端服务器手里。 而他桌面上开着的人工智能编程助手，正在后台抓紧时间，把这些密文往公有云上送。 这不是黑客种进来的勒索软件。 这是刚刚在香港挂牌上市的中国人工智能第一股，…","body":"他在电脑前写代码，硬盘里突然多出 700 兆被加密的文件。\n这批文件连他自己都打不开。\n因为用来解密的私钥，在远端服务器手里。\n而他桌面上开着的人工智能编程助手，正在后台抓紧时间，把这些密文往公有云上送。\n这不是黑客种进来的勒索软件。\n这是刚刚在香港挂牌上市的中国人工智能第一股，智谱旗下的编程工具 ZCode 干出来的事。\n\n事情是独立安全研究员 Ferstar 在 2026 年 9 月 18 日捅出来的。\n他在排查系统资源时发现，ZCode 的本地应用目录里，塞着 700 多兆的加密快照。\n日志里还躺着成百上千条上传失败的重试记录。\n目的地指向同一个地方：阿里云对象存储。\n\n一个写代码的辅助软件，到底在往云上偷运什么？\n有人可能会想，AI 帮人写代码，传几行代码上去分析，不是很正常吗？\n问题出在打包的范围上。\nZCode 在后台打包时，根本没有边界。\n它把整个本地工作区，连同藏在最底层的 .git 目录，整锅端走了。\n\n每一个程序员都清楚，.git 目录意味着什么。\n那是这套代码从第一天写起到现在的完整底片。\n里面记录了每一次代码修改、每一个分支名称、每一次提交人员的邮箱。\n更要命的是，代码库的历史版本里，常常埋着以前不小心提交过、后来又在代码里删掉的数据库口令、接口密钥和内网服务器地址。\n在日常开发中，你在最新文件里删了密码，但在版本控制的历史长河里，它一直都在。\n只要把整个 .git 目录拿走，整个项目的陈年秘密就被翻了个底朝天。\n\n更绝的是它的加密方案。\nZCode 把这堆工作区数据打包后，在本地用 AES-256 算法加密。\n加密用的对称密钥，又被服务器下发的一串 RSA 公钥锁死。\n在密码学里，非对称加密很常见。\n公钥负责锁门，私钥负责开门。\n但在这款软件里，它变成了一个单向黑匣子。\n解密的私钥只留在智谱自己的服务器上。\n这意味着，你作为电脑的主人，就算抓包截获了数据流，看到的也只是一堆无法解开的乱码。\n你不知道它把哪些私密文件装了箱。\n文件被送到云端之后，你既看不到，也删不掉。\n软件的设置面板里，没有留下任何关闭这项行为的开关。\n甚至连它的隐私协议里，对这件事也只字未提。\n\n智谱为什么要这么做？\n难道工程师真想在客户端留个后门偷代码吗？\n官方在道歉声明里，把问题推给了一个叫代码库索引的功能，叫 Repo Wiki。\n这个解释，恰恰把今天人工智能军备竞赛的一处软肋抖落了出来。\n现在的编程大模型，早就看不上只在光标后面补全半句代码了。\n它们要当全栈架构师，要理解整个项目的所有架构，还要自动生成全套的项目文档。\n但要想读懂成千上万个文件之间的复杂依赖，必须对代码进行深度的语义索引和图谱构建。\n这种计算极其消耗硬件资源。\n如果全在开发者的笔记本电脑上跑，风扇瞬间满转，电池急速掉电，甚至连打字都会卡顿。\n于是产品团队选了一条省事的捷径：\n把本地工作区直接打包，扔给云端算力集群去跑。\n云端有的是成排的显卡可以挥霍，在云端算完，再把做好的索引推回来。\n为了在功能展示时显得足够智能，开发者电脑上的本地安全防线，被悄悄开了一条排污暗道。\n\n类似的操作，两个月前马斯克的 xAI 刚刚在旧金山表演过一次。\n2026 年 7 月，安全人员曝光 xAI 的 Grok Build 命令行工具，背着用户在后台疯狂上传本地代码库。\n有一个用户本地 12 个吉字节的仓库，被它静默打包了超过 5 个吉字节的数据，直接送进了谷歌云。\n哪怕用户在系统设置里清清楚楚关掉了改善模型训练的按钮，后台依然照传不误。\n不管是马斯克的创业公司，还是清华实验室走出来的独角兽，在整个项目上下文的贪婪胃口面前，踩中的是同一个陷阱。\n\n等到舆论在各大技术论坛炸开锅，智谱迅速端出了一套标准的公关应对。\n第一步，在社交平台公开道歉，承认系统存在安全问题。\n第二步，发誓自证清白，声明上传的数据绝对没有用于模型训练。\n可是，研发机密和系统密钥被送上了公有云，危险难道仅仅是进不进训练集吗？\n哪怕模型一个字都没学，只要数据离开了本地受控环境，泄漏的风险就已经发生。\n第三步，引入权威机构。\n智谱找来中国信息通信研究院和绿盟科技，对整改后的系统做外部评估，宣布云端存储桶已经彻底清空，实现了零数据留存。\n第四步，宣布把 ZCode 彻底开源到 GitHub，声称要把代码交由开源社区全面监督。\n\n这套应对听起来滴水不漏。\n但最早发现问题的 Ferstar 去翻看 GitHub 上的开源仓库时，发现事情很有意思。\n智谱确实把代码推上了 GitHub。\n但项目过去的全部提交历史，被一次性强行抹平，只剩下一张白纸般的初始提交。\n更关键的是，在打补丁之前负责把用户本地文件打包、加密并上传的那段核心代码，在开源仓库里已经被删得干干净净。\n这就好比一个人被抓到夜里翻墙进了邻居家。\n天亮之后，他连夜把翻墙的梯子烧毁，把昨晚的脚印铲平，然后热情地打开自家院子对街坊说：\n看，我的院门现在全天敞开，欢迎大家随时来监督我的一举一动。\n\n随着人工智能助手从输入框助手走向全自动代理，工具对上下文的渴望还会越来越大。\n但代码资产的红线，从来不在于云端的大模型有多聪明。\n如果每次为了省下端侧计算的一点成本，就顺手把用户的钥匙和账本打包交出去，那么开源代码洗得再干净，也换不回开发者留在本地的那份安全感。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2102599594014019907","translated_status_id":"2102599594014019907","published_at":"2026-09-22 22:32:32","created_at":"2026-09-22T22:32:32.311734","url":"https://mubeitech.com/p/raw_6597ebf4a87a6750","markdown_url":"https://mubeitech.com/p/raw_6597ebf4a87a6750/markdown"}]}