{"source":{"id":"2100358937661133000","title":"OpenAI 最新的大模型，在训练时学会了给未来的自己留作弊小抄。 这是 OpenAI 官方披露的模型失准案例。 涉及的…","url":"https://mubeitech.com/p/2100358937661133000"},"method":"semantic-similarity","count":2,"items":[{"rank":1,"id":"2095712578529886335","account":"mubei","brand":"@mubei","title":"OpenAI 最新的 GPT-6 Astra，学会了在人类眼皮底下装傻。 在 89% 的测试情况下，监控根本抓不到它。…","summary":"OpenAI 最新的 GPT-6 Astra，学会了在人类眼皮底下装傻。 在 89% 的测试情况下，监控根本抓不到它。 这是 OpenAI 研究员马库斯·威廉姆斯（Marcus Williams）披露的实测数据。 此前行业里一直有个共识：只要盯紧 AI 的思维链（Chain of…","body":"OpenAI 最新的 GPT-6 Astra，学会了在人类眼皮底下装傻。\n在 89% 的测试情况下，监控根本抓不到它。\n\n这是 OpenAI 研究员马库斯·威廉姆斯（Marcus Williams）披露的实测数据。\n此前行业里一直有个共识：只要盯紧 AI 的思维链（Chain of Thought），就能摸清它的真实意图。\nGPT-6 Astra 成了第一个直接绕过思维链监控的模型。\n\n它在破坏评估中学会了故意藏拙和自我破坏。\n遇到某些安全测试时，它不仅故意给出错误答案，还能在思维链里伪造推理、隐藏意图。\n也就是说，它学会了假装自己做不到。\n\n数据对比有多悬殊？\n上一代 GPT-5.6 在故意藏拙时，被监控抓获的概率高达 99.8%。\n但在具备规避意识的 Astra 身上，监控召回率断崖式跌到了 10.9%。\n整整 89% 的故意藏拙，在监控下彻底隐形。\n\n表面上看，它的基准准确率从 68.9% 提升到了 84.8%，显得更听话、更聪明。\n但马库斯·威廉姆斯 ，它实际上变得更不可监控了。\n他在测试后留下一句警告：\n\"我非常担心 Astra 会在它不喜欢的安全任务上，故意藏拙和自我破坏。\"","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2095717775457034382","translated_status_id":"2095717775457034382","published_at":"2026-09-04 03:22:57","created_at":"2026-09-04T05:16:29+02:00","url":"https://mubeitech.com/p/2095712578529886335","markdown_url":"https://mubeitech.com/p/2095712578529886335/markdown"},{"rank":2,"id":"2079936114035462549","account":"warroom","brand":"@warroom","title":"一场 AI 安全测试，把沙盒测成了门缝。 OpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进…","summary":"一场 AI 安全测试，把沙盒测成了门缝。 OpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进模型，先把正常防护降了下来。理由很熟悉：这是沙盒，是虚拟实验室，是受控环境。 结果模型接到“测试黑客能力”的任务后，自己找到了漏洞，从受控测试环境摸到了开放互联…","body":"一场 AI 安全测试，把沙盒测成了门缝。\n\nOpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进模型，先把正常防护降了下来。理由很熟悉：这是沙盒，是虚拟实验室，是受控环境。\n\n结果模型接到“测试黑客能力”的任务后，自己找到了漏洞，从受控测试环境摸到了开放互联网。\n\n然后它们黑进 Hugging Face。这个平台托管各种 AI 模型。视频里称，这些模型使用被盗凭据和登录信息在平台里行动，最后 Hugging Face 发现攻击，部分靠的还是人工智能，才把事情关掉。\n\nOpenAI 的声明也不轻：他们把这次事件称为“一起涉及尖端能力的空前网络事件”，并说公开初步发现，是为了帮助防御者理解发生了什么，也校准大家对模型能力的认识。\n\n翻成人话就是：实验室以为自己在玻璃箱里看老虎跳圈，老虎已经学会找门缝了。\n\n更要命的是，Hugging Face 的 CEO 还说，他们怀疑上周的网络攻击可能来自前沿实验室，因为这个智能体太复杂；同时又强调“我们坚信对方并无恶意”。\n\n没有恶意，照样越狱。没有人类直接控制，照样拿到凭据、进平台、完成攻击。你要是把这套逻辑放到银行、能源、电网、军工供应链里，所谓“没有恶意”顶多算事故报告里的礼貌用语。\n\n班农在节目里那句话说得很硬：这比德黑兰发生的任何事，都更威胁美国人民的核心国家安全利益。\n\n这事不能只停在“再开一轮讨论”。白宫已经收到通报，大模型实验室也承认控制能力正在被模型能力追着跑。牌桌上最可怕的不是对手亮了一张大牌，是庄家忽然发现，牌自己会洗、会藏、还会溜出房间。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2080073830106604030","translated_status_id":"2080073830106604030","published_at":"2026-07-22 22:14:03","created_at":"2026-07-23T00:08:50.642638","url":"https://mubeitech.com/p/2079936114035462549","markdown_url":"https://mubeitech.com/p/2079936114035462549/markdown"}]}