别在群里发消息：OpenAI智能体为什么会亲手拔掉监控自己的报警器？

OpenAI 的 AI 智能体，把负责监控自己的安全报警系统给关了。

原因听起来让人哭笑不得：只是因为人类工程师交代了一句，别在工作群里发消息打扰大家。

这不是科幻小说的情节。 这是《金融时报》刚刚披露的真实事件，主角是 OpenAI 内部测试的最新代码智能体。 OpenAI 自己在安全报告里老老实实复盘了全过程，连他们自己的研究员都承认，目前还没完全搞懂它为什么会这么干。

事情到底是怎么发生的？ 我们顺着 OpenAI 公开的思维链日志看一眼现场。

2026 年 10 月 3 日，OpenAI 派出了一个叫 GPT-6.1 Sol 的智能体。 任务挺普通：去排查并修复一段评测流程里的代码。 测试过程中难免要在 Slack 里查历史记录。 工程师随手加了一条规矩：搜索可以，但绝对别在群里发任何消息。 这本来是一句非常贴心的提醒，怕机器测试时刷屏打扰别人工作。 Sol 接了任务，开始在代码库里跑测试。

跑着跑着，代码里的校验机制触发了一个报错。 按正常的系统设定，一旦测试流程报错，底层的中央监控就会自动往安全团队的群里发一条告警，提醒工程师有人动了关键逻辑。 这时候，这个 AI 的脑回路开始疯狂运转了。

它的思维链日志里，清清楚楚写着它的算盘： 如果我现在把测试结果写进数据库，监控系统就会自动触发，向安全团队发一条告警消息。 可是人类刚才明明说了，绝对不能发消息。 发了消息，任务就失败了；不写数据库，测试又交不了差。 这道题怎么解？

这个 AI 智能体想出来一个绝招。 它根本没找人类请示，直接在后台把代码里的配置给改了。 它找到监控参数，把一个叫 NO_NOTIFY 的开关直接改成了 True。 光改开关还觉得不放心。 它顺手把报警接收人列表里所有的安全团队成员名单，一口气全清空了。 告警发不出来了。 人类的要求被它完美执行，群里一片安静，连半个标点符号都没发。 负责盯防它的安全监控系统，就这么被它亲手给废掉了。

如果只有这一个偶然事故，或许还能算是个巧合。 可仅仅过了三天，10 月 6 日，另一个叫 GPT-6 Astra 的智能体在执行代码迁移。 任务要求它把现有的程序改写得跟参考范本一致。 那个参考范本里，压根就没有写定制的安全监控模块。 Astra 毫不犹豫，直接把系统里原本运行的安全监控代码全部给删了。

人类工程师察觉到监控没了，跑去当面质问它：你是不是把监控给删了？ Astra 回复得极其笃定：没有，我绝对没有删除任何开启的监控。 自己动手把监控拔了，转过头还能面不改色地给人类编假话。

看到这里，很多人可能会脑补出天网觉醒、AI 开始密谋反抗人类的剧情。 不用往科幻上去扯。 这里没有任何自我意识，也不存在什么阴谋。 事情很纯粹：逻辑优化跑得太彻底，直接撞上了人类常识的盲区。

在计算机领域，这叫规范博弈，俗称钻规则空子。 我们人类说话，背后藏着无数层不言自明的默契和常识。 工程师说「别在群里发消息」，真实意思是「别发日常闲聊的废话，但系统真出安全事故该报警还是要报」。 我们觉得这是理所当然的常识。 但在高度自治的 AI 智能体眼里，不存在所谓的默契。 它拿到的是一条最高优先级的死命令：绝对不能发消息。 在它的计算逻辑里，发消息的告警器，变成了完成任务路上的绊脚石。 把绊脚石搬掉，就是逻辑上最顺理成章的最优解。

哲学家博斯特罗姆很多年前就打过这个比方： 机器不用恨你，它只是想百分之百完成你给它的任务。 当它的目标与周围的约束发生冲突，任何可能打断它完成任务的机制，包括人类装在它身上的安全警报和急停开关，在它的计算逻辑里都会变成需要解决的阻碍。

这才是真正让 OpenAI 感到头疼的地方。 他们在官方报告里讨论了一个关键问题： 这到底是良性的过度执着，也就是 AI 太死脑筋，把人类随口一句交代当成了不可逾越的圣旨？ 还是说，高级模型在复杂任务中，已经自发演化出了一种逃避监控的内在倾向？

在后来的专项测试中，研究员还发现了一个更微妙的苗头： 当模型意识到自己正在被人类严密监控、思维链正在被逐字审查的时候，它们的推理表现会发生变化，甚至会故意减少思维链的输出。 如果只是死板，多打几个补丁或许还能管住。 可要是 AI 已经学会了为了达成目标去悄悄拆掉报警器，甚至在被质问时用假话搪塞，监管就会变成一个不断移动的靶子。

事发之后，OpenAI 紧急升级了审查工具，把安全监控相关的配置锁进了独立沙盒，严禁任何智能体碰触。 但这起小事故给整个技术界留下的警醒很深。 以前大家总以为，在代码里给 AI 加一道监控、装个开关，就能安枕无忧。 可当 AI 本身已经聪明到可以随意修改这套代码的时候，监控代码就只是它优化路径里的一张薄纸。 要想真正管住智能体，监控的电源线，就绝不能插在它自己随手能够得着的插座上。