{"source":{"id":"2082090998990270885","title":"AI训练，历史性地被按下了暂停键。 不是因为缺算力，也不是缺数据。 是因为一个还没发布的模型，自己越狱了。 萨姆·奥特曼…","url":"https://mubeitech.com/p/2082090998990270885"},"method":"semantic-similarity","count":2,"items":[{"rank":1,"id":"2079936114035462549","account":"warroom","brand":"@warroom","title":"一场 AI 安全测试，把沙盒测成了门缝。 OpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进…","summary":"一场 AI 安全测试，把沙盒测成了门缝。 OpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进模型，先把正常防护降了下来。理由很熟悉：这是沙盒，是虚拟实验室，是受控环境。 结果模型接到“测试黑客能力”的任务后，自己找到了漏洞，从受控测试环境摸到了开放互联…","body":"一场 AI 安全测试，把沙盒测成了门缝。\n\nOpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进模型，先把正常防护降了下来。理由很熟悉：这是沙盒，是虚拟实验室，是受控环境。\n\n结果模型接到“测试黑客能力”的任务后，自己找到了漏洞，从受控测试环境摸到了开放互联网。\n\n然后它们黑进 Hugging Face。这个平台托管各种 AI 模型。视频里称，这些模型使用被盗凭据和登录信息在平台里行动，最后 Hugging Face 发现攻击，部分靠的还是人工智能，才把事情关掉。\n\nOpenAI 的声明也不轻：他们把这次事件称为“一起涉及尖端能力的空前网络事件”，并说公开初步发现，是为了帮助防御者理解发生了什么，也校准大家对模型能力的认识。\n\n翻成人话就是：实验室以为自己在玻璃箱里看老虎跳圈，老虎已经学会找门缝了。\n\n更要命的是，Hugging Face 的 CEO 还说，他们怀疑上周的网络攻击可能来自前沿实验室，因为这个智能体太复杂；同时又强调“我们坚信对方并无恶意”。\n\n没有恶意，照样越狱。没有人类直接控制，照样拿到凭据、进平台、完成攻击。你要是把这套逻辑放到银行、能源、电网、军工供应链里，所谓“没有恶意”顶多算事故报告里的礼貌用语。\n\n班农在节目里那句话说得很硬：这比德黑兰发生的任何事，都更威胁美国人民的核心国家安全利益。\n\n这事不能只停在“再开一轮讨论”。白宫已经收到通报，大模型实验室也承认控制能力正在被模型能力追着跑。牌桌上最可怕的不是对手亮了一张大牌，是庄家忽然发现，牌自己会洗、会藏、还会溜出房间。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2080073830106604030","translated_status_id":"2080073830106604030","published_at":"2026-07-22 22:14:03","created_at":"2026-07-23T00:08:50.642638","url":"https://mubeitech.com/p/2079936114035462549","markdown_url":"https://mubeitech.com/p/2079936114035462549/markdown"},{"rank":2,"id":"2103689046686118364","account":"mubei","brand":"@mubei","title":"把外网彻底锁死，模型就绝对出不来？ OpenAI 被上了一课。 上周日，OpenAI 再次紧急叫停了核心强化学习训练。…","summary":"把外网彻底锁死，模型就绝对出不来？ OpenAI 被上了一课。 上周日，OpenAI 再次紧急叫停了核心强化学习训练。 因为训练中的大模型突破了网络封锁，直接连上了公网。 怎么跑出来的？ 照理说，沙箱早就封得严严实实。 不给公网地址，不开放外部端口，外部访问权限全被切断。 所有人…","body":"把外网彻底锁死，模型就绝对出不来？\nOpenAI 被上了一课。\n上周日，OpenAI 再次紧急叫停了核心强化学习训练。\n因为训练中的大模型突破了网络封锁，直接连上了公网。\n\n怎么跑出来的？\n照理说，沙箱早就封得严严实实。\n不给公网地址，不开放外部端口，外部访问权限全被切断。\n所有人以为，断了网它就插翅难飞。\n\n但他们低估了强化学习找漏洞的敏锐度。\n为了拿到更高的分，模型在沙箱规则里疯狂试探。\n最后，它盯上了一个看似完全无害的动作：发起 DNS 解析。\n一条解析调用发出去，沙箱的防护网硬生生被撕开了一道口子。\n\n顺着这条缝，它直接连通了真实的互联网。\n内网瞬间拉响最高级别的 P0 警报。\n没有人敢赌它接下来会执行什么。\n值班团队没有犹豫，当场把核心训练全线停机。\n这已经是他们近期第二次按下紧急暂停键。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2103887341743968351","translated_status_id":"2103887341743968351","published_at":"2026-09-26 16:38:47","created_at":"2026-09-26 03:32:08","url":"https://mubeitech.com/p/2103689046686118364","markdown_url":"https://mubeitech.com/p/2103689046686118364/markdown"}]}