最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。 Google DeepMind 的 CEO…

最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。

Google DeepMind 的 CEO Demis Hassabis 最近亲口证实了一件事。 全球所有的前沿 AI 实验室，现在都在疯狂干一件事： “递归自我改进”（Recursive Self-improvement）。

大白话就是，让 AI 自己训练 AI。

这在写代码和数学领域已经快玩通了。 因为这两个领域的验证极快。 AI 写个程序，对不对，跑一下就知道。 对的就留下，作为高质量的合成数据，接着喂给下一代 AI。

但在物理、化学、生物这些“原子世界”，速度稍微慢一点。 因为 AI 猜想出一个新材料，还得在现实里做实验验证。

但这也快了。 DeepMind 已经在伦敦建了一个自动化实验室。 他们手里攒了 20 万个新材料设计，里面可能藏着超导体，全指望机器自己去闭环验证。

发现问题了吗？ 在这个研发、测试、升级的闭环里，人类正在一步步变成多余的配置。

哪怕是 Hassabis 自己，在说完“大家都在做自我改进”之后，也承认： 这种“把人类完全移出反馈回路”的安全风险，让他整夜整夜睡不着。

这就是最荒诞的地方。 每一个前沿实验室的掌舵人，都清楚跨过这条线意味着什么。 但在行业极速竞争的鞭笞下，明知前面是悬崖，谁也不敢第一个踩刹车。