{"id":"2069420372089520483","account":"mubei","brand":"@mubei","title":"最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。 Google DeepMind 的 CEO…","summary":"最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。 Google DeepMind 的 CEO Demis Hassabis 最近亲口证实了一件事。 全球所有的前沿 AI 实验室，现在都在疯狂干一件事： “递归自我改进”（Recursive Self-im…","body":"最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。\n\nGoogle DeepMind 的 CEO Demis Hassabis 最近亲口证实了一件事。\n全球所有的前沿 AI 实验室，现在都在疯狂干一件事：\n“递归自我改进”（Recursive Self-improvement）。\n\n大白话就是，让 AI 自己训练 AI。\n\n这在写代码和数学领域已经快玩通了。\n因为这两个领域的验证极快。\nAI 写个程序，对不对，跑一下就知道。\n对的就留下，作为高质量的合成数据，接着喂给下一代 AI。\n\n但在物理、化学、生物这些“原子世界”，速度稍微慢一点。\n因为 AI 猜想出一个新材料，还得在现实里做实验验证。\n\n但这也快了。\nDeepMind 已经在伦敦建了一个自动化实验室。\n他们手里攒了 20 万个新材料设计，里面可能藏着超导体，全指望机器自己去闭环验证。\n\n发现问题了吗？\n在这个研发、测试、升级的闭环里，人类正在一步步变成多余的配置。\n\n哪怕是 Hassabis 自己，在说完“大家都在做自我改进”之后，也承认：\n这种“把人类完全移出反馈回路”的安全风险，让他整夜整夜睡不着。\n\n这就是最荒诞的地方。\n每一个前沿实验室的掌舵人，都清楚跨过这条线意味着什么。\n但在行业极速竞争的鞭笞下，明知前面是悬崖，谁也不敢第一个踩刹车。","category":"科技","score":80,"percentile":93,"reason_tags":[],"translated_x_url":"https://x.com/i/status/2069435221737361656","translated_status_id":"2069435221737361656","published_at":"2026-06-23 14:10:48","created_at":"2026-06-23T16:00:39+02:00"}