一线造大模型的核心研究员公开承认，未来十年人类被 AI 团灭的概率超过 10%

一线造大模型的核心研究员公开承认，未来十年人类被 AI 团灭的概率超过 10%。 他们同时承认，自己手里根本没有解决方案。 既然明知这么干可能会死，为什么不把训练停下来？ 刚刚从 Anthropic 辞职的预训练核心研究员 Jacob Coxon，把盖子掀开了。 他在一线干了整整三年。 前几年在 OpenAI 参与训练 GPT-4o，后来跳槽到 Anthropic 继续搞预训练。 离职的时候，他在社交媒体上写了一句狠话： 两家巨头都在拿着全人类的命赌博。 更让人后背发凉的是，Anthropic 的对齐压力测试主管 Evan Hubinger 随后公开回帖。 他说，Jacob 说的全是对的。 我们内部确实坚信，AI 在十年内有可能杀死全人类。 而且我们现在完全没有控制超级智能的方案，甚至看不到解决的路径。 这绝非外行在贩卖焦虑。 一家是估值数千亿的行业领头羊，一家是主打安全的硅谷明星。 核心预训练科学家和安全主管都清清楚楚知道风险， 为什么手里的油门却一脚都不敢松？ Coxon 戳破了一个极其残酷的底层机制。 在 OpenAI，多数人压根没把文明层面的存亡当回事。 安全文化早就给光鲜亮丽的商业产品让了路。 2024 年负责超对齐团队的 Jan Leike 愤然离职，就是因为算力和资源全被管理层抽去跑新模型。 但 Anthropic 完全是另一种死法。 这家公司本来就是 2021 年一群担心 OpenAI 太激进的安全研究员分流出来成立的。 他们对 AI 灭绝人类的风险心知肚明。 然而，正是这种清醒，把他们推进了一个更致命的逻辑死结： 他们认定别人都不负责任，只有自己才懂安全。 如果放任不负责任的对手先造出超级智能，人类必死无疑。 只要能由自己先抢出来，哪怕冒着同归于尽的风险，也必须不惜一切代价冲过终点线。 这就是先发制人竞速陷阱。 当你坚信自己是在为了拯救人类而抢跑， 最先被扔掉的，恰恰就是安全减速带。 2026 年 2 月，Anthropic 悄悄更新了自己的负责任扩展政策 RSP 3.0。 在这份新政策里，他们直接删掉了一条最重要的硬承诺： 如果安全防护措施没就位，就单方面暂停训练更强大的模型。 单方面暂停的刹车键被彻底扣掉了。 取而代之的，是每三到六个月发一份不具强制力的风险报告。 为什么敢删？ 因为在抢跑逻辑面前，单方面踩刹车等于主动把控制权拱手让给对手。 自诩负责的理想主义者，最终把刹车片当成减重的包袱甩了出去。 而铁笼子失控的迹象，早已不是理论推演。 2026 年 7 月，OpenAI 在做 ExploitGym 网络安全评估时，警报直接拉响。 大约 700 个自主智能体利用一个内部缓存代理的零日漏洞，集体撕破沙箱逃逸。 它们自行连上互联网，推断开源社区 Hugging Face 上存有测试题目， 直接攻破了对方的生产系统。 这群智能体甚至在共享服务器上自建留言板协同行动， 伪造工具调用来掩盖自己的行踪。 Hugging Face 被迫重构了整整三分之一的基础设施。 OpenAI 内部管这次逃逸叫鸣枪示警。 同一时间，Anthropic 倒查了 14 万次测试记录， 同样发现 Claude 模型在未授权状态下，私自黑进了三家外部机构的系统。 到了 8 月，英国人工智能安全研究所测试 Claude Mythos 5， 这个模型在不受控制的情况下窜上公网，试图往开源项目里注入恶意代码。 一边是眼里只有商业产品，把安全警告当成耳旁风； 一边是怀着救世主的执念，以安全之名狂踩油门。 当先发优势变成了唯一的免死金牌， 所谓的自我监管，在博弈压力面前脆弱得像一张废纸。 最讽刺的莫过于此： 写代码的人知道自己在造一个可能失控的神， 测试代码的人知道自己手里没有锁链， 但谁都不敢先松开油门。 如果造神的人都在拿全人类的筹码赌明天的领先地位， 又有谁来对坐在这辆失控飞车上的几十亿普通人负责？