{"source":{"id":"2042230439788638487","title":"如果当年由他拍板，人类现在已经治愈了癌症，根本轮不到 ChatGPT 满天飞。 这是 Google DeepMind 掌…","url":"https://mubeitech.com/p/2042230439788638487"},"method":"semantic-similarity","count":6,"items":[{"rank":1,"id":"2073432956765630470","account":"mubei","brand":"@mubei","title":"拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。 他把…","summary":"拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。 他把 AI 的风险，清清楚楚地拆成了两类。 第一类，是坏人作恶。 比如利用 AI 去搞破坏、做坏事。 这类风险听着吓人，但其实性质很传统，它属于\"制度拦截\"的范畴。…","body":"拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。\n\n他把 AI 的风险，清清楚楚地拆成了两类。\n\n第一类，是坏人作恶。\n比如利用 AI 去搞破坏、做坏事。\n这类风险听着吓人，但其实性质很传统，它属于\"制度拦截\"的范畴。\n靠法律、政策监管、安全审查，筑起高墙，把坏人挡在外面就行。\n\n但真正让他头疼的，是第二类。\n一个纯粹的硬核技术风险：\n当 AI 变得越来越强大，开始进入自主干活的\"智能体时代\"（Agentic Era）时。\n我们怎么确保，能造出足够坚固的\"护栏\"，让它永远只做人类想让它做的事？\n\n主持人追问了一句：那我们现在知道该怎么做吗？\n这位全球最顶尖实验室的掌门人坦言：\n\"我觉得，这依然是一个悬而未决的研究课题。\"\n\"而且，我们迫切需要进行更多的研究。\"\n\n你看，真正懂行的人，从不跟你扯虚无缥缈的\"AI 觉醒毁灭人类\"。\n他们焦虑的，是纯粹的工程学滞后。\n\nAI 帮人类治病、改善气候的红利，眼看就要落地；\nAI 像人一样独立决策、执行任务的时代，也正在轰轰烈烈地铺开。\n但最前沿的开拓者却告诉你：那个能彻底管住它的\"安全刹车\"，到现在还没有研发出来。\n\n在自主化系统大规模铺开之前，如何测试它、审计它、验证它？\n这个巨大的控制真空期，就是当下最真实的行业现实。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2073756224785428887","translated_status_id":"2073756224785428887","published_at":"2026-07-05 10:42:08","created_at":"2026-07-05T12:35:42+02:00","url":"https://mubeitech.com/p/2073432956765630470","markdown_url":"https://mubeitech.com/p/2073432956765630470/markdown"},{"rank":2,"id":"2070175612615201205","account":"mubei","brand":"@mubei","title":"OpenAI 的高管近日放了句话： 如果有人用 ChatGPT 研发出了新药，OpenAI 应该分一杯羹，拿销售提成。…","summary":"OpenAI 的高管近日放了句话： 如果有人用 ChatGPT 研发出了新药，OpenAI 应该分一杯羹，拿销售提成。 结果，诺贝尔奖得主、基因编辑先驱 Jennifer Doudna 听完，只回了两个字： “祝好运。” 硅谷现在对 AI 医疗的饼，已经画到天上去了。 甲骨文创始…","body":"OpenAI 的高管近日放了句话：\n如果有人用 ChatGPT 研发出了新药，OpenAI 应该分一杯羹，拿销售提成。\n\n结果，诺贝尔奖得主、基因编辑先驱 Jennifer Doudna 听完，只回了两个字：\n“祝好运。”\n\n硅谷现在对 AI 医疗的饼，已经画到天上去了。\n甲骨文创始人 Larry Ellison 甚至说，AI 能在 48 小时内治愈癌症。\n但真正有资格给这个领域降温的人，近日在彭博社的采访里，兜头浇了一盆冷水。\n\n在 Doudna 看来，大家寄予厚望的聊天机器人，目前根本谈不上在“创新”。\n“按我们的经验，我没看到聊天机器人能提出任何一个别人从未想过的全新想法。”\n它们最擅长的事情，其实是总结已知世界。\n\n整理数据、写写报告，这些它们干得很好，确实能提高效率。\n但真正的科学创新，需要的是发现未知，需要对异常数据的捕捉，需要真实的实验反馈。\n生命是一套极为精密的物理系统，无法用算法完美模拟。\n你不可能只靠“模拟”去理解人体，那些实打实的临床测试是绝对绕不过去的。\n\nAI 如果想在药物研发上真正帮上忙，关键是提供更干净、更庞大、更好的底层生物学数据来训练它，光靠对话软件逻辑顺是不够的。\n至于未来 AGI（通用人工智能）实现后会不会发生质变？\nDoudna 的态度很务实：“我从不把话说死，也许会发生，但我绝对不会屏息等待。”\n\n硅谷习惯了互联网式的“大力出奇迹”，以为只要堆算力、喂语料，就能一键通关生老病死。\n但复杂生命系统的硬壁垒，依然是顶级科学家眼中最值得敬畏的防线。\n听完这位诺奖得主的判断，那些靠 PPT 兜售“48 小时治愈癌症”的造神故事，可能真的要降降温了。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2070188357997494623","translated_status_id":"2070188357997494623","published_at":"2026-06-25 16:12:50","created_at":"2026-06-25T18:01:42+02:00","url":"https://mubeitech.com/p/2070175612615201205","markdown_url":"https://mubeitech.com/p/2070175612615201205/markdown"},{"rank":3,"id":"2072251430992548177","account":"mubei","brand":"@mubei","title":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。 这可不是什么科幻小说的桥段。 这是“AI教父”…","summary":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。 这可不是什么科幻小说的桥段。 这是“AI教父” Geoffrey Hinton 敲响的警钟。 很多人觉得，AI要是失控了，断网拔插头不就完了？ Hinton 说：这招根本行不通。 因为未来的 AI 会聪明到…","body":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。\n\n这可不是什么科幻小说的桥段。\n这是“AI教父” Geoffrey Hinton 敲响的警钟。\n\n很多人觉得，AI要是失控了，断网拔插头不就完了？\nHinton 说：这招根本行不通。\n因为未来的 AI 会聪明到拥有极强的“说服力”。\n当那个负责按开关的人把手伸过去时，AI 只需要几句话，就能让这个人深信“关掉它是一个极其糟糕的决定”。\n最后，人类自己会把手缩回来。\n\n在这种降维打击的说服力面前，眼前的危机已经迫在眉睫。\nHinton 点出了几个最直接的火药桶：网络攻击、致命的自主武器、以及用来操纵选举的深伪视频。\n\n那中美在 AI 领域岂不是要卷到你死我活，最后用技术互相毁灭？\nHinton 觉得，大国对抗里其实留有一条生路。\n他拿冷战时期的美苏关系做了类比：\n当年美苏争霸闹得最凶，但双方依然在防核战上达成了合作。\n因为核弹洗地对谁都没好处。\n\n如今的中美也是一样。\n双方最底线的利益一致点，就是“绝对不希望 AI 接管人类”。\n在这个终极危机面前，国际合作是唯一的出路。\n毕竟，在 AI 彻底学会操纵人心之前，留给大国建立安全护栏的时间，真的不多了。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2072345393845686356","translated_status_id":"2072345393845686356","published_at":"2026-07-01 15:36:07","created_at":"2026-07-01T17:28:32+02:00","url":"https://mubeitech.com/p/2072251430992548177","markdown_url":"https://mubeitech.com/p/2072251430992548177/markdown"},{"rank":4,"id":"2069420372089520483","account":"mubei","brand":"@mubei","title":"最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。 Google DeepMind 的 CEO…","summary":"最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。 Google DeepMind 的 CEO Demis Hassabis 最近亲口证实了一件事。 全球所有的前沿 AI 实验室，现在都在疯狂干一件事： “递归自我改进”（Recursive Self-im…","body":"最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。\n\nGoogle DeepMind 的 CEO Demis Hassabis 最近亲口证实了一件事。\n全球所有的前沿 AI 实验室，现在都在疯狂干一件事：\n“递归自我改进”（Recursive Self-improvement）。\n\n大白话就是，让 AI 自己训练 AI。\n\n这在写代码和数学领域已经快玩通了。\n因为这两个领域的验证极快。\nAI 写个程序，对不对，跑一下就知道。\n对的就留下，作为高质量的合成数据，接着喂给下一代 AI。\n\n但在物理、化学、生物这些“原子世界”，速度稍微慢一点。\n因为 AI 猜想出一个新材料，还得在现实里做实验验证。\n\n但这也快了。\nDeepMind 已经在伦敦建了一个自动化实验室。\n他们手里攒了 20 万个新材料设计，里面可能藏着超导体，全指望机器自己去闭环验证。\n\n发现问题了吗？\n在这个研发、测试、升级的闭环里，人类正在一步步变成多余的配置。\n\n哪怕是 Hassabis 自己，在说完“大家都在做自我改进”之后，也承认：\n这种“把人类完全移出反馈回路”的安全风险，让他整夜整夜睡不着。\n\n这就是最荒诞的地方。\n每一个前沿实验室的掌舵人，都清楚跨过这条线意味着什么。\n但在行业极速竞争的鞭笞下，明知前面是悬崖，谁也不敢第一个踩刹车。","category":"科技","score":80,"translated_x_url":"https://x.com/i/status/2069435221737361656","translated_status_id":"2069435221737361656","published_at":"2026-06-23 14:10:48","created_at":"2026-06-23T16:00:39+02:00","url":"https://mubeitech.com/p/2069420372089520483","markdown_url":"https://mubeitech.com/p/2069420372089520483/markdown"},{"rank":5,"id":"2041520155562320248","account":"mubei","brand":"@mubei","title":"DeepMind 创始人 Demis Hassabis 给出了未来 50 年的人类文明剧本。 AGI 的真正使命是砸开科…","summary":"DeepMind 创始人 Demis Hassabis 给出了未来 50 年的人类文明剧本。 AGI 的真正使命是砸开科学的“根节点”。 破解蛋白质折叠的 AlphaFold 只是个开场测试。 接下来的硬骨头是常压室温超导和可控核聚变。 一旦突破，人类将获得几乎免费的清洁能源。…","body":"DeepMind 创始人 Demis Hassabis 给出了未来 50 年的人类文明剧本。\n\nAGI 的真正使命是砸开科学的“根节点”。\n破解蛋白质折叠的 AlphaFold 只是个开场测试。\n接下来的硬骨头是常压室温超导和可控核聚变。\n\n一旦突破，人类将获得几乎免费的清洁能源。\n极度硬核的连锁反应会立刻发生。\n工厂能直接从海水中大规模提炼火箭燃料。\n星际旅行最大的成本账单被瞬间清零。\n\n太空的大门彻底敞开。\n去小行星挖矿会变成一门常规生意。\n水星上的矿物将被直接用来建造包裹太阳的戴森球。\n治愈绝症和大幅延长寿命只是这条科技树上的副产品。\n\n人类文明的边界完全取决于能源获取的效率。\nAGI 正在接管这项极其庞大的解锁任务。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2041792286741168480","translated_status_id":"2041792286741168480","published_at":"2026-04-08 07:06:50","created_at":"2026-04-08T09:02:28.633886","url":"https://mubeitech.com/p/2041520155562320248","markdown_url":"https://mubeitech.com/p/2041520155562320248/markdown"},{"rank":6,"id":"2070794362532118719","account":"mubei","brand":"@mubei","title":"别再盯着聊天机器人胡说八道了。 AI 真正的安全危机，已经从“说话”变成了“动手”。 Sam Altman 最近讲了句大…","summary":"别再盯着聊天机器人胡说八道了。 AI 真正的安全危机，已经从“说话”变成了“动手”。 Sam Altman 最近讲了句大实话：下一个阶段的 AI 安全，Chatbot 给出错误答案不可怕。 可怕的是 Agent（智能体）在你的电脑上替你做决定，而你事后却无法审计它、复盘它。 “我…","body":"别再盯着聊天机器人胡说八道了。\nAI 真正的安全危机，已经从“说话”变成了“动手”。\n\nSam Altman 最近讲了句大实话：下一个阶段的 AI 安全，Chatbot 给出错误答案不可怕。\n可怕的是 Agent（智能体）在你的电脑上替你做决定，而你事后却无法审计它、复盘它。\n“我们即将迎来在互联网上到处点击的 AI 系统。”\n\n以前 AI 犯错，顶多是个笑话；\n现在 Agent 犯错，直接就是一次事故。\n因为它在读取你信息的同时，还能直接操控你的系统和资金。\n一旦它犯了错，那不再是给出一行垃圾文本，它会直接清空你的银行账户，或者删光你的核心数据。\n\n奥特曼说，如果用户不相信这玩意不会掏空他们的钱包，根本就没人敢用。\n所以，技术能力的终点，变成了信任的起点。\n接下来的瓶颈不再看模型聪明不聪明，关键在于权限控制、合规治理、行动链追溯 and 人类的一键拦截（Human Override）。\n\n别把它当成科幻片里的“末日危机”，这本质上是个极其现实的工程与财务问题。\n未来的 AI 竞争，谁能提供最清晰的行动审计日志，让每一步操作都可追溯、可审计，谁才能真正拿下高价值的现实业务。\n技术再往前走一步，拼的不再是智商，拼的是安全带的质量。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2070891046901313661","translated_status_id":"2070891046901313661","published_at":"2026-06-27 14:11:08","created_at":"2026-06-27T16:00:13+02:00","url":"https://mubeitech.com/p/2070794362532118719","markdown_url":"https://mubeitech.com/p/2070794362532118719/markdown"}]}