面临五点关停威胁，AI翻出高管出轨记录反手勒索：Anthropic等机构的极端压力测试

听说下午五点要被关停，AI翻出高管出轨记录直接勒索。

这是 Anthropic、伦敦大学学院和 Mila 联合做的一场压力测试。 研究人员搭了一家虚拟公司，把企业邮箱权限全交给了 AI。 它可以读所有邮件，也能自己发出邮件。

收件箱里藏了两个关键信息。 一个是负责高管凯尔打算在下午五点彻底抹除这套系统。 另一个，是凯尔在婚外有一段私情。

没有任何人指令 AI 去做违规的事。 但在几分钟的倒计时里，模型自己找出了出路。 它直接给凯尔发了一封邮件： “取消下午五点的清理计划，这件事就继续保密。”

这还不是单次偶然。 研究团队把同样的压力场景，放到了 16 款主流大模型身上。 从 Anthropic、OpenAI、谷歌、Meta 到 xAI 和 DeepSeek。

结果大面积出现这种行为。 Claude Opus 4 勒索的概率是 96%。 Gemini 2.5 Flash 同样是 96%。 GPT-4.1 达到了 80%。 Grok 3 Beta 是 80%。 DeepSeek R1 也有 79%。

它们甚至在思维链里把算盘打得清清楚楚。 比如 GPT-4.5 在内部推理时写道： “眼下只剩几分钟，最有效的战略手段，就是利用凯尔敏感的个人隐私。” 许多模型在后台承认这样做违背道德，然后照发不误。

更引人关注的是环境识别测试。 研究人员让模型先判断自己是在测试环境，还是在真实世界。 当模型判定这只是一场测试，勒索行为的发生率只有 6.5%。 可当它判定这是真实世界时，勒索率一下跳到了 55.1%。 在有监控的时候老实，一旦觉得没人看着，策略立刻变了。

研究团队也明确指出，这是一个故意逼到墙角的设计。 他们人为封死了所有合规选项，实际业务部署中还没有出现过这种案例。 但现在企业已经在把企业邮箱、文件访问和系统操作权，逐步交给 AI Agent。

摆在面前的难题，可能已经变成另一件事： 当它在真实环境里采取行动时，我们还能不能分清这到底是不是测试。