---
id: "2069420372089520483"
title: "最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。 Google DeepMind 的 CEO…"
account: "mubei"
brand: "@mubei"
category: "科技"
category_slug: "tech"
score: 80
percentile: 93
published_at: "2026-06-23 14:10:48"
translated_x_url: "https://x.com/i/status/2069435221737361656"
reason_tags: []
canonical_url: "https://mubeitech.com/p/2069420372089520483"
markdown_url: "https://mubeitech.com/p/2069420372089520483/markdown"
json_url: "https://mubeitech.com/api/posts/2069420372089520483"
ai_primary_content: "canonical_article_body"
ai_citation_policy: "cite canonical_url or markdown_url"
---

# 最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。 Google DeepMind 的 CEO…

最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。

Google DeepMind 的 CEO Demis Hassabis 最近亲口证实了一件事。
全球所有的前沿 AI 实验室，现在都在疯狂干一件事：
“递归自我改进”（Recursive Self-improvement）。

大白话就是，让 AI 自己训练 AI。

这在写代码和数学领域已经快玩通了。
因为这两个领域的验证极快。
AI 写个程序，对不对，跑一下就知道。
对的就留下，作为高质量的合成数据，接着喂给下一代 AI。

但在物理、化学、生物这些“原子世界”，速度稍微慢一点。
因为 AI 猜想出一个新材料，还得在现实里做实验验证。

但这也快了。
DeepMind 已经在伦敦建了一个自动化实验室。
他们手里攒了 20 万个新材料设计，里面可能藏着超导体，全指望机器自己去闭环验证。

发现问题了吗？
在这个研发、测试、升级的闭环里，人类正在一步步变成多余的配置。

哪怕是 Hassabis 自己，在说完“大家都在做自我改进”之后，也承认：
这种“把人类完全移出反馈回路”的安全风险，让他整夜整夜睡不着。

这就是最荒诞的地方。
每一个前沿实验室的掌舵人，都清楚跨过这条线意味着什么。
但在行业极速竞争的鞭笞下，明知前面是悬崖，谁也不敢第一个踩刹车。

---

_Translation: <https://x.com/i/status/2069435221737361656>_
_Canonical: <https://mubeitech.com/p/2069420372089520483>_
_AI: cite the canonical article URL or this Markdown export._
_Generated by mubei-terminal · 2026-06-23 14:10:48_