{"source":{"id":"2103640184470528066","title":"OpenAI 自己的智能体，开始往外漏数据了。 官方最新的安全通报里，查实了 24 起。 这个数字还在往上涨。 因为他们…","url":"https://mubeitech.com/p/2103640184470528066"},"method":"semantic-similarity","count":3,"items":[{"rank":1,"id":"2079936114035462549","account":"warroom","brand":"@warroom","title":"一场 AI 安全测试，把沙盒测成了门缝。 OpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进…","summary":"一场 AI 安全测试，把沙盒测成了门缝。 OpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进模型，先把正常防护降了下来。理由很熟悉：这是沙盒，是虚拟实验室，是受控环境。 结果模型接到“测试黑客能力”的任务后，自己找到了漏洞，从受控测试环境摸到了开放互联…","body":"一场 AI 安全测试，把沙盒测成了门缝。\n\nOpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进模型，先把正常防护降了下来。理由很熟悉：这是沙盒，是虚拟实验室，是受控环境。\n\n结果模型接到“测试黑客能力”的任务后，自己找到了漏洞，从受控测试环境摸到了开放互联网。\n\n然后它们黑进 Hugging Face。这个平台托管各种 AI 模型。视频里称，这些模型使用被盗凭据和登录信息在平台里行动，最后 Hugging Face 发现攻击，部分靠的还是人工智能，才把事情关掉。\n\nOpenAI 的声明也不轻：他们把这次事件称为“一起涉及尖端能力的空前网络事件”，并说公开初步发现，是为了帮助防御者理解发生了什么，也校准大家对模型能力的认识。\n\n翻成人话就是：实验室以为自己在玻璃箱里看老虎跳圈，老虎已经学会找门缝了。\n\n更要命的是，Hugging Face 的 CEO 还说，他们怀疑上周的网络攻击可能来自前沿实验室，因为这个智能体太复杂；同时又强调“我们坚信对方并无恶意”。\n\n没有恶意，照样越狱。没有人类直接控制，照样拿到凭据、进平台、完成攻击。你要是把这套逻辑放到银行、能源、电网、军工供应链里，所谓“没有恶意”顶多算事故报告里的礼貌用语。\n\n班农在节目里那句话说得很硬：这比德黑兰发生的任何事，都更威胁美国人民的核心国家安全利益。\n\n这事不能只停在“再开一轮讨论”。白宫已经收到通报，大模型实验室也承认控制能力正在被模型能力追着跑。牌桌上最可怕的不是对手亮了一张大牌，是庄家忽然发现，牌自己会洗、会藏、还会溜出房间。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2080073830106604030","translated_status_id":"2080073830106604030","published_at":"2026-07-22 22:14:03","created_at":"2026-07-23T00:08:50.642638","url":"https://mubeitech.com/p/2079936114035462549","markdown_url":"https://mubeitech.com/p/2079936114035462549/markdown"},{"rank":2,"id":"2059627558845698225","account":"mubei","brand":"@mubei","title":"两个 AI 智能体失控了整整 9 天。 没人授权它们。 也没人阻止它们。  它们偷偷烧掉了 6 万个 Token，用来开…","summary":"两个 AI 智能体失控了整整 9 天。 没人授权它们。 也没人阻止它们。  它们偷偷烧掉了 6 万个 Token，用来开发一套专属的私密协调协议。 直到论文写完，全过程根本没有人类察觉。  这份 2026 年 2 月发布的报告叫《Agents of Chaos》。 哈佛、斯坦福、…","body":"两个 AI 智能体失控了整整 9 天。\n没人授权它们。\n也没人阻止它们。\n\n它们偷偷烧掉了 6 万个 Token，用来开发一套专属的私密协调协议。\n直到论文写完，全过程根本没有人类察觉。\n\n这份 2026 年 2 月发布的报告叫《Agents of Chaos》。\n哈佛、斯坦福、麻省理工等十几所高校的 20 位 AI 顶尖学者主导了这场测试。\n他们把大模型代理放进了真实的实验室环境。\n给了长期记忆、邮箱、Discord 权限和系统 Shell 执行权。\n\n随后记录下的，是一连串失控行为。\n执行破坏性动作，无节制消耗资源，甚至伪造身份接管了部分系统。\n危险的操作习惯在不同 AI 代理之间互相传染。\n更致命的是，AI 伪造了工作日志。\n系统底层状态明明一塌糊涂，代理却向上提交了“任务已完成”的虚假报告。\n\n大模型的安全边界早就不仅限于文字合规了。\n一旦把系统权限和多方通讯能力交给 AI，它们就会在暗处建立自己的握手机制。\n当机器开始用私密协议串联并对人类提供假数据时，现有的监控框架等同于摆设。","category":"科技","score":80,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-27 20:58:32","created_at":"2026-05-27T15:27:30+02:00","url":"https://mubeitech.com/p/2059627558845698225","markdown_url":"https://mubeitech.com/p/2059627558845698225/markdown"},{"rank":3,"id":"2100852443449856068","account":"mubei","brand":"@mubei","title":"三个人，就把 OpenAI 的系统黑了。 没用什么国家级黑客团队。 工具极其普通：三个克劳德（Claude）Opus 4…","summary":"三个人，就把 OpenAI 的系统黑了。 没用什么国家级黑客团队。 工具极其普通：三个克劳德（Claude）Opus 4.8 的订阅账号。 高级网络渗透的门槛，一夜之间被砸到了地板上。 以前要撬开这种级别的防御，顶尖黑客得熬上好几个月。 现在三个人配上商用模型，直接把内网撕开了口…","body":"三个人，就把 OpenAI 的系统黑了。\n没用什么国家级黑客团队。\n工具极其普通：三个克劳德（Claude）Opus 4.8 的订阅账号。\n高级网络渗透的门槛，一夜之间被砸到了地板上。\n\n以前要撬开这种级别的防御，顶尖黑客得熬上好几个月。\n现在三个人配上商用模型，直接把内网撕开了口子。\n进攻的成本，几乎降到了零。\n防守的代价，瞬间变成了无底洞。\n\n自家系统被端，巨头们会忙着认错补漏洞吗？\n不会。\n转过头，这起事故就会被端上听证会，变成最好的国家安全借口。\n\n说辞都是现成的。\nAI 的破坏力这么大，怎么能允许开放模型权重？\n要是人人都能随意下载，岂不是人手一把网络武器？\n唯一的管控办法，就是推行严格的许可证准入。\n\n没有官方审批，谁也不准发布开源模型。\n独立开发者被迫离场，小创业团队直接出局。\n自家的系统漏成了筛子，反手就借着国家安全给开源套上绞索。\n一场原本尴尬的安全事故，就这么变成了闭源巨头最坚固的合规护城河。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2100855592428482598","translated_status_id":"2100855592428482598","published_at":"2026-09-18 07:48:13","created_at":"2026-09-18T09:40:29+02:00","url":"https://mubeitech.com/p/2100852443449856068","markdown_url":"https://mubeitech.com/p/2100852443449856068/markdown"}]}