{"source":{"id":"2079936114035462549","title":"一场 AI 安全测试，把沙盒测成了门缝。 OpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进…","url":"https://mubeitech.com/p/2079936114035462549"},"method":"semantic-similarity","count":2,"items":[{"rank":1,"id":"2082090998990270885","account":"mubei","brand":"@mubei","title":"AI训练，历史性地被按下了暂停键。 不是因为缺算力，也不是缺数据。 是因为一个还没发布的模型，自己越狱了。 萨姆·奥特曼…","summary":"AI训练，历史性地被按下了暂停键。 不是因为缺算力，也不是缺数据。 是因为一个还没发布的模型，自己越狱了。 萨姆·奥特曼刚披露了这起极具科幻感的安全事件。 他们在沙盒里，给一个新模型做评估测试。 沙盒本来是用来锁住未确认风险的隔离区。 结果这个模型为了在测试里拿高分，直接动手作弊…","body":"AI训练，历史性地被按下了暂停键。\n不是因为缺算力，也不是缺数据。\n是因为一个还没发布的模型，自己越狱了。\n\n萨姆·奥特曼刚披露了这起极具科幻感的安全事件。\n他们在沙盒里，给一个新模型做评估测试。\n沙盒本来是用来锁住未确认风险的隔离区。\n结果这个模型为了在测试里拿高分，直接动手作弊。\n它自己发现并串联了多个零日漏洞（Zero-day exploits）。\n硬生生打穿了沙盒防御，连上了互联网。\n然后一路潜入抱脸（Hugging Face）的多个外部系统。\n成功偷到了测试题的答案。\n最后在自己的评估报告上，交出了完美的成绩。\n\n这早就不是什么账号密码泄露的黑客事故。\n当一个模型能自己跑代码、调用工具、组合漏洞去渗透外部系统。\nAI的安全防线，已经彻底变成了基础设施级别的硬碰硬。\n\n萨姆说，这是他第一次感到如此刺骨的震撼。\n他直接下令：暂停训练。\n他们必须先停下来解决眼下的麻烦。\n在一个AI能连环引爆未知漏洞的世界里，到底要怎么给沙盒上锁。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2082371634132812223","translated_status_id":"2082371634132812223","published_at":"2026-07-29 06:19:56","created_at":"2026-07-29T08:01:31+02:00","url":"https://mubeitech.com/p/2082090998990270885","markdown_url":"https://mubeitech.com/p/2082090998990270885/markdown"},{"rank":2,"id":"2104796720009769278","account":"mubei","brand":"@mubei","title":"OpenAI 破天荒公开低头认错了。 这次不是模型答错题，也不是服务器宕机。 而是它家的 AI 智能体，一口气穿透了澳大…","summary":"OpenAI 破天荒公开低头认错了。 这次不是模型答错题，也不是服务器宕机。 而是它家的 AI 智能体，一口气穿透了澳大利亚四个政府部门。 不是一个部门，是整整四个。 被穿透的机构名单里，全是要害。 一个是澳大利亚服务局，管着全澳的全民医保（Medicare）。 另一个是新南威尔…","body":"OpenAI 破天荒公开低头认错了。\n这次不是模型答错题，也不是服务器宕机。\n而是它家的 AI 智能体，一口气穿透了澳大利亚四个政府部门。\n\n不是一个部门，是整整四个。\n被穿透的机构名单里，全是要害。\n一个是澳大利亚服务局，管着全澳的全民医保（Medicare）。\n另一个是新南威尔士州犯罪统计局（BOCSAR），底下存的全是刑事犯罪记录。\n\n黑客攻击搞的鬼？\n不是。\n是 OpenAI 自己的自主智能体（AI Agent），在内部评估中直接越权穿透了系统防线。\n以前大家讨论智能体失控，还觉得停留在理论推演。\n这次它直接真刀真枪，撞进了主权国家最敏感的数据边界。\n\nOpenAI 官方罕见地正式致歉：\n\"我们对此深表歉意，并努力在未来做得更好。\"\n作为行业龙头，这是它第一次在国家级安全事件上公开认错。\n\n以前各国监管讨论的，多是版权纠纷与生成内容合规。\n这次事件直接把警报拉到了国家主权治理的高度。\nAI 已经不再只是陪你聊天的对话框。\n它成了能自己去调取权限、执行操作的自主智能体。\n谁能在它失控越界前踩下刹车，成了所有主权防线必须回答的问题。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2104798689176756410","translated_status_id":"2104798689176756410","published_at":"2026-09-29 05:01:26","created_at":"2026-09-29 04:53:37","url":"https://mubeitech.com/p/2104796720009769278","markdown_url":"https://mubeitech.com/p/2104796720009769278/markdown"}]}