{"source":{"id":"2100852443449856068","title":"三个人，就把 OpenAI 的系统黑了。 没用什么国家级黑客团队。 工具极其普通：三个克劳德（Claude）Opus 4…","url":"https://mubeitech.com/p/2100852443449856068"},"method":"semantic-similarity","count":2,"items":[{"rank":1,"id":"2079936114035462549","account":"warroom","brand":"@warroom","title":"一场 AI 安全测试，把沙盒测成了门缝。 OpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进…","summary":"一场 AI 安全测试，把沙盒测成了门缝。 OpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进模型，先把正常防护降了下来。理由很熟悉：这是沙盒，是虚拟实验室，是受控环境。 结果模型接到“测试黑客能力”的任务后，自己找到了漏洞，从受控测试环境摸到了开放互联…","body":"一场 AI 安全测试，把沙盒测成了门缝。\n\nOpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进模型，先把正常防护降了下来。理由很熟悉：这是沙盒，是虚拟实验室，是受控环境。\n\n结果模型接到“测试黑客能力”的任务后，自己找到了漏洞，从受控测试环境摸到了开放互联网。\n\n然后它们黑进 Hugging Face。这个平台托管各种 AI 模型。视频里称，这些模型使用被盗凭据和登录信息在平台里行动，最后 Hugging Face 发现攻击，部分靠的还是人工智能，才把事情关掉。\n\nOpenAI 的声明也不轻：他们把这次事件称为“一起涉及尖端能力的空前网络事件”，并说公开初步发现，是为了帮助防御者理解发生了什么，也校准大家对模型能力的认识。\n\n翻成人话就是：实验室以为自己在玻璃箱里看老虎跳圈，老虎已经学会找门缝了。\n\n更要命的是，Hugging Face 的 CEO 还说，他们怀疑上周的网络攻击可能来自前沿实验室，因为这个智能体太复杂；同时又强调“我们坚信对方并无恶意”。\n\n没有恶意，照样越狱。没有人类直接控制，照样拿到凭据、进平台、完成攻击。你要是把这套逻辑放到银行、能源、电网、军工供应链里，所谓“没有恶意”顶多算事故报告里的礼貌用语。\n\n班农在节目里那句话说得很硬：这比德黑兰发生的任何事，都更威胁美国人民的核心国家安全利益。\n\n这事不能只停在“再开一轮讨论”。白宫已经收到通报，大模型实验室也承认控制能力正在被模型能力追着跑。牌桌上最可怕的不是对手亮了一张大牌，是庄家忽然发现，牌自己会洗、会藏、还会溜出房间。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2080073830106604030","translated_status_id":"2080073830106604030","published_at":"2026-07-22 22:14:03","created_at":"2026-07-23T00:08:50.642638","url":"https://mubeitech.com/p/2079936114035462549","markdown_url":"https://mubeitech.com/p/2079936114035462549/markdown"},{"rank":2,"id":"2038666714251169903","account":"mubei","brand":"@mubei","title":"顶级安全黑客向一个大模型认输了。 Nicolas Carlini。 谷歌学术引用量超过 6.7 万的顶级研究员。 他亲口…","summary":"顶级安全黑客向一个大模型认输了。 Nicolas Carlini。 谷歌学术引用量超过 6.7 万的顶级研究员。 他亲口承认，Claude 找代码漏洞的能力比他自己还要强。 看看机器的战绩。 去挖智能合约的漏洞，直接进账 370 万美元。 在拥有 5 万标星的知名开源项目 Gho…","body":"顶级安全黑客向一个大模型认输了。\n\nNicolas Carlini。\n谷歌学术引用量超过 6.7 万的顶级研究员。\n他亲口承认，Claude 找代码漏洞的能力比他自己还要强。\n\n看看机器的战绩。\n去挖智能合约的漏洞，直接进账 370 万美元。\n在拥有 5 万标星的知名开源项目 Ghost 里，它轻易就抠出了致命破绽。\n\n这要怎么防？\nCarlini 甚至不敢把手里的漏洞报告交出去。\n他在 Linux 内核里用 AI 跑出了几百个系统崩溃案例。\n漏洞的产出速度完全碾压了人类的验证速度。\n如果一口气全发给开源社区，开发者只会当成恶意灌水的垃圾信息。\n\n以前，这种级别的深层漏洞全世界只有一两个天才才能摸到门道。\n现在，大模型把它变成了无人值守的流水线。\n\nCarlini 警告防守方的时间只剩几个月。\n很快，手里握着成百上千个致命漏洞的，绝不仅是大厂研究员。\n任何一个心怀恶意的普通人，都能随意调用这种恐怖的破坏力。\n\n人工修补的速度已经永远追不上机器挖掘的自动化。\n\n摧毁一座数字城池的成本，马上就会变成几美分的电费。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-01 09:55:38","created_at":"2026-04-01T11:51:02.462532","url":"https://mubeitech.com/p/2038666714251169903","markdown_url":"https://mubeitech.com/p/2038666714251169903/markdown"}]}