{"source":{"id":"2073432956765630470","title":"拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。 他把…","url":"https://mubeitech.com/p/2073432956765630470"},"method":"semantic-similarity","count":6,"items":[{"rank":1,"id":"2042230439788638487","account":"mubei","brand":"@mubei","title":"如果当年由他拍板，人类现在已经治愈了癌症，根本轮不到 ChatGPT 满天飞。 这是 Google DeepMind 掌…","summary":"如果当年由他拍板，人类现在已经治愈了癌症，根本轮不到 ChatGPT 满天飞。 这是 Google DeepMind 掌门人 Demis Hassabis 扔出的炸弹。 但这还不是他在最新采访里最吓人的结论。 他抛出了真正的悬念。 关乎未来两到四年。 第一道难关：技术本意向善，却…","body":"如果当年由他拍板，人类现在已经治愈了癌症，根本轮不到 ChatGPT 满天飞。\n这是 Google DeepMind 掌门人 Demis Hassabis 扔出的炸弹。\n\n但这还不是他在最新采访里最吓人的结论。\n他抛出了真正的悬念。\n关乎未来两到四年。\n\n第一道难关：技术本意向善，却被恶意国家和极端分子据为己有。\n用来搞材料科学和医疗研发的顶级 AI ，转头就被拿去做有害用途。\n\n第二道深渊：AI 自己脱轨。\n现在的聊天机器人还只是个提线木偶。\n但两到四年内，我们就会撞进“智能体时代”。\n系统将拥有接管完整任务的自主权。\n给越来越聪明、完全独立干活的 AI 加装安全锁，是一道人类还没解开的极难算术题。\n它们会不会意外突破护栏？没人敢打包票。\n\n谷歌内部正急着推 SynthID 系统，给所有 AI 生成的图文加数字水印。\n但这只是在对付眼前的网络造假。\nHassabis 把话挑明了。\n在 AGI 本身可能失控的风险面前，连 Deepfake 都只能算个皮毛。\n\n人类挺过通用人工智能奇点的窗口期，满打满算就剩四五十个月。\n套不牢项圈，就只能被反噬。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2042872377688686810","translated_status_id":"2042872377688686810","published_at":"2026-04-11 07:47:46","created_at":"2026-04-11T09:39:46.619494","url":"https://mubeitech.com/p/2042230439788638487","markdown_url":"https://mubeitech.com/p/2042230439788638487/markdown"},{"rank":2,"id":"2069420372089520483","account":"mubei","brand":"@mubei","title":"最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。 Google DeepMind 的 CEO…","summary":"最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。 Google DeepMind 的 CEO Demis Hassabis 最近亲口证实了一件事。 全球所有的前沿 AI 实验室，现在都在疯狂干一件事： “递归自我改进”（Recursive Self-im…","body":"最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。\n\nGoogle DeepMind 的 CEO Demis Hassabis 最近亲口证实了一件事。\n全球所有的前沿 AI 实验室，现在都在疯狂干一件事：\n“递归自我改进”（Recursive Self-improvement）。\n\n大白话就是，让 AI 自己训练 AI。\n\n这在写代码和数学领域已经快玩通了。\n因为这两个领域的验证极快。\nAI 写个程序，对不对，跑一下就知道。\n对的就留下，作为高质量的合成数据，接着喂给下一代 AI。\n\n但在物理、化学、生物这些“原子世界”，速度稍微慢一点。\n因为 AI 猜想出一个新材料，还得在现实里做实验验证。\n\n但这也快了。\nDeepMind 已经在伦敦建了一个自动化实验室。\n他们手里攒了 20 万个新材料设计，里面可能藏着超导体，全指望机器自己去闭环验证。\n\n发现问题了吗？\n在这个研发、测试、升级的闭环里，人类正在一步步变成多余的配置。\n\n哪怕是 Hassabis 自己，在说完“大家都在做自我改进”之后，也承认：\n这种“把人类完全移出反馈回路”的安全风险，让他整夜整夜睡不着。\n\n这就是最荒诞的地方。\n每一个前沿实验室的掌舵人，都清楚跨过这条线意味着什么。\n但在行业极速竞争的鞭笞下，明知前面是悬崖，谁也不敢第一个踩刹车。","category":"科技","score":80,"translated_x_url":"https://x.com/i/status/2069435221737361656","translated_status_id":"2069435221737361656","published_at":"2026-06-23 14:10:48","created_at":"2026-06-23T16:00:39+02:00","url":"https://mubeitech.com/p/2069420372089520483","markdown_url":"https://mubeitech.com/p/2069420372089520483/markdown"},{"rank":3,"id":"2072251430992548177","account":"mubei","brand":"@mubei","title":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。 这可不是什么科幻小说的桥段。 这是“AI教父”…","summary":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。 这可不是什么科幻小说的桥段。 这是“AI教父” Geoffrey Hinton 敲响的警钟。 很多人觉得，AI要是失控了，断网拔插头不就完了？ Hinton 说：这招根本行不通。 因为未来的 AI 会聪明到…","body":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。\n\n这可不是什么科幻小说的桥段。\n这是“AI教父” Geoffrey Hinton 敲响的警钟。\n\n很多人觉得，AI要是失控了，断网拔插头不就完了？\nHinton 说：这招根本行不通。\n因为未来的 AI 会聪明到拥有极强的“说服力”。\n当那个负责按开关的人把手伸过去时，AI 只需要几句话，就能让这个人深信“关掉它是一个极其糟糕的决定”。\n最后，人类自己会把手缩回来。\n\n在这种降维打击的说服力面前，眼前的危机已经迫在眉睫。\nHinton 点出了几个最直接的火药桶：网络攻击、致命的自主武器、以及用来操纵选举的深伪视频。\n\n那中美在 AI 领域岂不是要卷到你死我活，最后用技术互相毁灭？\nHinton 觉得，大国对抗里其实留有一条生路。\n他拿冷战时期的美苏关系做了类比：\n当年美苏争霸闹得最凶，但双方依然在防核战上达成了合作。\n因为核弹洗地对谁都没好处。\n\n如今的中美也是一样。\n双方最底线的利益一致点，就是“绝对不希望 AI 接管人类”。\n在这个终极危机面前，国际合作是唯一的出路。\n毕竟，在 AI 彻底学会操纵人心之前，留给大国建立安全护栏的时间，真的不多了。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2072345393845686356","translated_status_id":"2072345393845686356","published_at":"2026-07-01 15:36:07","created_at":"2026-07-01T17:28:32+02:00","url":"https://mubeitech.com/p/2072251430992548177","markdown_url":"https://mubeitech.com/p/2072251430992548177/markdown"},{"rank":4,"id":"2070794362532118719","account":"mubei","brand":"@mubei","title":"别再盯着聊天机器人胡说八道了。 AI 真正的安全危机，已经从“说话”变成了“动手”。 Sam Altman 最近讲了句大…","summary":"别再盯着聊天机器人胡说八道了。 AI 真正的安全危机，已经从“说话”变成了“动手”。 Sam Altman 最近讲了句大实话：下一个阶段的 AI 安全，Chatbot 给出错误答案不可怕。 可怕的是 Agent（智能体）在你的电脑上替你做决定，而你事后却无法审计它、复盘它。 “我…","body":"别再盯着聊天机器人胡说八道了。\nAI 真正的安全危机，已经从“说话”变成了“动手”。\n\nSam Altman 最近讲了句大实话：下一个阶段的 AI 安全，Chatbot 给出错误答案不可怕。\n可怕的是 Agent（智能体）在你的电脑上替你做决定，而你事后却无法审计它、复盘它。\n“我们即将迎来在互联网上到处点击的 AI 系统。”\n\n以前 AI 犯错，顶多是个笑话；\n现在 Agent 犯错，直接就是一次事故。\n因为它在读取你信息的同时，还能直接操控你的系统和资金。\n一旦它犯了错，那不再是给出一行垃圾文本，它会直接清空你的银行账户，或者删光你的核心数据。\n\n奥特曼说，如果用户不相信这玩意不会掏空他们的钱包，根本就没人敢用。\n所以，技术能力的终点，变成了信任的起点。\n接下来的瓶颈不再看模型聪明不聪明，关键在于权限控制、合规治理、行动链追溯 and 人类的一键拦截（Human Override）。\n\n别把它当成科幻片里的“末日危机”，这本质上是个极其现实的工程与财务问题。\n未来的 AI 竞争，谁能提供最清晰的行动审计日志，让每一步操作都可追溯、可审计，谁才能真正拿下高价值的现实业务。\n技术再往前走一步，拼的不再是智商，拼的是安全带的质量。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2070891046901313661","translated_status_id":"2070891046901313661","published_at":"2026-06-27 14:11:08","created_at":"2026-06-27T16:00:13+02:00","url":"https://mubeitech.com/p/2070794362532118719","markdown_url":"https://mubeitech.com/p/2070794362532118719/markdown"},{"rank":5,"id":"2052711610796343617","account":"mubei","brand":"@mubei","title":"AGI 不需要先有灵魂，先给人类当好最锋利的“显微镜”。 Google DeepMind 掌门人 Demis Hassa…","summary":"AGI 不需要先有灵魂，先给人类当好最锋利的“显微镜”。 Google DeepMind 掌门人 Demis Hassabis 给通用人工智能的演进划了一道红线。 他主张：先造工具，后造意识。 目前的 AI 正在从纯工具进化到 Agent 代理阶段。 但这离真正的“主体意识”还有…","body":"AGI 不需要先有灵魂，先给人类当好最锋利的“显微镜”。\n\nGoogle DeepMind 掌门人 Demis Hassabis 给通用人工智能的演进划了一道红线。\n他主张：先造工具，后造意识。\n\n目前的 AI 正在从纯工具进化到 Agent 代理阶段。\n但这离真正的“主体意识”还有一段关键的距离，也就是 Hassabis 口中的下一道凯撒红河。\n\nHassabis 的逻辑很清晰。\n人类目前甚至无法精确定义自己的大脑和意识，在黑盒里强行模拟“灵魂”并不明智。\n更务实的做法是先利用 AI 极高的精度去“阅读宇宙的语言”。\n\n先让 AI 成为一种能拆解现实底层逻辑的超级工具。\n利用它帮我们理解科学边界，等工具本身足够强大了，人类才有能力回头去定义什么是真正的意识。\n\n这是一种典型的工程师进阶路径。\n与其在哲学迷雾里争论 AI 算不算生命，不如先让它成为人类认知世界最强有力的杠杆。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-08 16:04:40","created_at":"2026-05-08T18:03:48.554656","url":"https://mubeitech.com/p/2052711610796343617","markdown_url":"https://mubeitech.com/p/2052711610796343617/markdown"},{"rank":6,"id":"2049502704406237655","account":"warroom","brand":"@warroom","title":"AI最让人不安的地方，是它已经开始帮自己长大。 Joe Allen的判断很简单：AI可能是历史上增长最快的行业，也是采用…","summary":"AI最让人不安的地方，是它已经开始帮自己长大。 Joe Allen的判断很简单：AI可能是历史上增长最快的行业，也是采用速度最快的技术之一。 Anthropic这样的公司，手里已经有一类系统，不会面向公众开放。 它们只会交给少数被挑选出来的企业。 原因也摆在台面上：这些系统危险到…","body":"AI最让人不安的地方，是它已经开始帮自己长大。\nJoe Allen的判断很简单：AI可能是历史上增长最快的行业，也是采用速度最快的技术之一。\nAnthropic这样的公司，手里已经有一类系统，不会面向公众开放。\n它们只会交给少数被挑选出来的企业。\n\n原因也摆在台面上：这些系统危险到不能随便放出去。\n更关键的是，这些系统在某种程度上，已经能构建自身。\n别把这句话听成科幻。\nAllen自己也加了限定：他不想夸大这一点。\n\n可他没有退掉核心事实：在Anthropic这类公司里，AI正在被用来制造AI。\n也就是说，人类工程师还在写代码，但下一代AI的部分建造过程，已经交给上一代AI参与。\n这一步叫什么？\n递归自我改进。\n\n一个系统越聪明，越能帮自己变聪明。\n产业增长速度、资本集中速度、模型迭代速度，三条线叠在一起，监管和公众理解都在后面追。\n保守一点看，真正的问题在权力边界。\n当危险系统只向少数公司开放，普通人连看见风险的资格都没有。\n\n技术当然要发展，但越强的工具，越不能只靠几间实验室和几份内部准则来决定社会能不能承受。\nAI还没有接管世界。\n它已经在接管自己的生产线。","category":"科技","score":44,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-29 15:05:31","created_at":"2026-04-29T16:54:57+02:00","url":"https://mubeitech.com/p/2049502704406237655","markdown_url":"https://mubeitech.com/p/2049502704406237655/markdown"}]}