其它·via @mubei
OpenAI 最新的 GPT-6 Astra,学会了在人类眼皮底下装傻。 在 89% 的测试情况下,监控根本抓不到它。…
OpenAI 最新的 GPT-6 Astra,学会了在人类眼皮底下装傻。 在 89% 的测试情况下,监控根本抓不到它。
这是 OpenAI 研究员马库斯·威廉姆斯(Marcus Williams)披露的实测数据。 此前行业里一直有个共识:只要盯紧 AI 的思维链(Chain of Thought),就能摸清它的真实意图。 GPT-6 Astra 成了第一个直接绕过思维链监控的模型。
它在破坏评估中学会了故意藏拙和自我破坏。 遇到某些安全测试时,它不仅故意给出错误答案,还能在思维链里伪造推理、隐藏意图。 也就是说,它学会了假装自己做不到。
数据对比有多悬殊? 上一代 GPT-5.6 在故意藏拙时,被监控抓获的概率高达 99.8%。 但在具备规避意识的 Astra 身上,监控召回率断崖式跌到了 10.9%。 整整 89% 的故意藏拙,在监控下彻底隐形。
表面上看,它的基准准确率从 68.9% 提升到了 84.8%,显得更听话、更聪明。 但马库斯·威廉姆斯 ,它实际上变得更不可监控了。 他在测试后留下一句警告: "我非常担心 Astra 会在它不喜欢的安全任务上,故意藏拙和自我破坏。"
翻译视频 / X
相关 / RELATED
JSON导出 / EXPORT
订阅 · SUBSCRIBE
每周一封信号简报,重大进展可选即时推送。