{"source":{"id":"2060990453231808956","title":"“AI 已经有意识了。” 说这话的不是科幻狂热分子。 是诺贝尔物理学奖得主、AI 教父 Geoffrey Hinton。…","url":"https://mubeitech.com/p/2060990453231808956"},"method":"semantic-similarity","count":6,"items":[{"rank":1,"id":"2052711610796343617","account":"mubei","brand":"@mubei","title":"AGI 不需要先有灵魂，先给人类当好最锋利的“显微镜”。 Google DeepMind 掌门人 Demis Hassa…","summary":"AGI 不需要先有灵魂，先给人类当好最锋利的“显微镜”。 Google DeepMind 掌门人 Demis Hassabis 给通用人工智能的演进划了一道红线。 他主张：先造工具，后造意识。 目前的 AI 正在从纯工具进化到 Agent 代理阶段。 但这离真正的“主体意识”还有…","body":"AGI 不需要先有灵魂，先给人类当好最锋利的“显微镜”。\n\nGoogle DeepMind 掌门人 Demis Hassabis 给通用人工智能的演进划了一道红线。\n他主张：先造工具，后造意识。\n\n目前的 AI 正在从纯工具进化到 Agent 代理阶段。\n但这离真正的“主体意识”还有一段关键的距离，也就是 Hassabis 口中的下一道凯撒红河。\n\nHassabis 的逻辑很清晰。\n人类目前甚至无法精确定义自己的大脑和意识，在黑盒里强行模拟“灵魂”并不明智。\n更务实的做法是先利用 AI 极高的精度去“阅读宇宙的语言”。\n\n先让 AI 成为一种能拆解现实底层逻辑的超级工具。\n利用它帮我们理解科学边界，等工具本身足够强大了，人类才有能力回头去定义什么是真正的意识。\n\n这是一种典型的工程师进阶路径。\n与其在哲学迷雾里争论 AI 算不算生命，不如先让它成为人类认知世界最强有力的杠杆。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-08 16:04:40","created_at":"2026-05-08T18:03:48.554656","url":"https://mubeitech.com/p/2052711610796343617","markdown_url":"https://mubeitech.com/p/2052711610796343617/markdown"},{"rank":2,"id":"2072251430992548177","account":"mubei","brand":"@mubei","title":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。 这可不是什么科幻小说的桥段。 这是“AI教父”…","summary":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。 这可不是什么科幻小说的桥段。 这是“AI教父” Geoffrey Hinton 敲响的警钟。 很多人觉得，AI要是失控了，断网拔插头不就完了？ Hinton 说：这招根本行不通。 因为未来的 AI 会聪明到…","body":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。\n\n这可不是什么科幻小说的桥段。\n这是“AI教父” Geoffrey Hinton 敲响的警钟。\n\n很多人觉得，AI要是失控了，断网拔插头不就完了？\nHinton 说：这招根本行不通。\n因为未来的 AI 会聪明到拥有极强的“说服力”。\n当那个负责按开关的人把手伸过去时，AI 只需要几句话，就能让这个人深信“关掉它是一个极其糟糕的决定”。\n最后，人类自己会把手缩回来。\n\n在这种降维打击的说服力面前，眼前的危机已经迫在眉睫。\nHinton 点出了几个最直接的火药桶：网络攻击、致命的自主武器、以及用来操纵选举的深伪视频。\n\n那中美在 AI 领域岂不是要卷到你死我活，最后用技术互相毁灭？\nHinton 觉得，大国对抗里其实留有一条生路。\n他拿冷战时期的美苏关系做了类比：\n当年美苏争霸闹得最凶，但双方依然在防核战上达成了合作。\n因为核弹洗地对谁都没好处。\n\n如今的中美也是一样。\n双方最底线的利益一致点，就是“绝对不希望 AI 接管人类”。\n在这个终极危机面前，国际合作是唯一的出路。\n毕竟，在 AI 彻底学会操纵人心之前，留给大国建立安全护栏的时间，真的不多了。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2072345393845686356","translated_status_id":"2072345393845686356","published_at":"2026-07-01 15:36:07","created_at":"2026-07-01T17:28:32+02:00","url":"https://mubeitech.com/p/2072251430992548177","markdown_url":"https://mubeitech.com/p/2072251430992548177/markdown"},{"rank":3,"id":"2045181640297578605","account":"mubei","brand":"@mubei","title":"大模型永远不会产生意识。 十年后不会，一百年后也不会。 下这个断言的，不是什么传统的科技悲观派。 是 Google De…","summary":"大模型永远不会产生意识。 十年后不会，一百年后也不会。 下这个断言的，不是什么传统的科技悲观派。 是 Google DeepMind 的研究员 Alexander Lerchner。 他刚发表了一篇名为《抽象谬误》的论文，直接掀翻了当前AI界的桌子。 现在的主流观点认为，只要模型…","body":"大模型永远不会产生意识。\n十年后不会，一百年后也不会。\n\n下这个断言的，不是什么传统的科技悲观派。\n是 Google DeepMind 的研究员 Alexander Lerchner。\n他刚发表了一篇名为《抽象谬误》的论文，直接掀翻了当前AI界的桌子。\n\n现在的主流观点认为，只要模型参数够大，意识就会自然涌现。\nLerchner 把这称为一种根本性的错觉。\n算法只是符号的重新排列组合，是一张由人类画出的地图。\n无论这张地图多复杂，它也变不成真实的物理地形。\n\n他给出了一个绝佳的类比。\n指望一行行代码能产生真正的内在意识，就像指望写在纸上的“万有引力公式”能凭空产生重量。\n\nAI 可以完美“模拟”人类的喜怒哀乐。\n但它永远无法“实例化”任何生命体验。\n硅基代码能骗过你的眼睛，但越不过物理法则的边界。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2045715934782882289","translated_status_id":"2045715934782882289","published_at":"2026-04-19 03:54:41","created_at":"2026-04-19T05:53:23.964388","url":"https://mubeitech.com/p/2045181640297578605","markdown_url":"https://mubeitech.com/p/2045181640297578605/markdown"},{"rank":4,"id":"2063169819474546837","account":"mubei","brand":"@mubei","title":"假如大语言模型有人类的意识，那《帝国时代2》也有。 这来自一篇正经的微软学术论文。 研究员 Adrian de Wynt…","summary":"假如大语言模型有人类的意识，那《帝国时代2》也有。 这来自一篇正经的微软学术论文。 研究员 Adrian de Wynter 搞出了一篇疯批文章，直接把圈内人看嗨了。 现在很多人看着 AI 能说会道，就觉得它们有了道德感，甚至理解了自然语言。 他觉得这纯属扯淡。 为了打脸这种观点…","body":"假如大语言模型有人类的意识，那《帝国时代2》也有。\n这来自一篇正经的微软学术论文。\n研究员 Adrian de Wynter 搞出了一篇疯批文章，直接把圈内人看嗨了。\n现在很多人看着 AI 能说会道，就觉得它们有了道德感，甚至理解了自然语言。\n他觉得这纯属扯淡。\n\n为了打脸这种观点，他在经典老游戏《帝国时代2》里，硬生生建了一个神经网络。\n他利用游戏里的地图编辑器，搞出了逻辑门（NAND gate）。\n草地代表 0，桥梁代表 1。\n最绝的是什么？\n这个电路里传递信号的载体，是一只羊。\n\n每一次计算，就是一只羊被移除，另一只羊在轨道上就位。\n只要基底足够强大，哪怕是乐高积木，或者是大波士顿地区，你都能在上面跑神经网络。\n既然一只在草地和桥梁间溜达的羊也能算计出结果，你能说这只羊或者这个游戏拥有“人类意识”吗？\n当然不能。\n\n所以，别再对着 AI 的几句漂亮话大惊小怪，赋予它人类的拟人特征了。\n抛开底层的运行机制谈 AI 意识，就是自我感动。\n科技圈真正硬核的祛魅，就是用一只跑腿的电子羊，踢破过度神话 AI 的信息泡沫。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2063507959150219721","translated_status_id":"2063507959150219721","published_at":"2026-06-07 06:20:11","created_at":"2026-06-07T08:18:02.970625","url":"https://mubeitech.com/p/2063169819474546837","markdown_url":"https://mubeitech.com/p/2063169819474546837/markdown"},{"rank":5,"id":"2069420372089520483","account":"mubei","brand":"@mubei","title":"最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。 Google DeepMind 的 CEO…","summary":"最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。 Google DeepMind 的 CEO Demis Hassabis 最近亲口证实了一件事。 全球所有的前沿 AI 实验室，现在都在疯狂干一件事： “递归自我改进”（Recursive Self-im…","body":"最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。\n\nGoogle DeepMind 的 CEO Demis Hassabis 最近亲口证实了一件事。\n全球所有的前沿 AI 实验室，现在都在疯狂干一件事：\n“递归自我改进”（Recursive Self-improvement）。\n\n大白话就是，让 AI 自己训练 AI。\n\n这在写代码和数学领域已经快玩通了。\n因为这两个领域的验证极快。\nAI 写个程序，对不对，跑一下就知道。\n对的就留下，作为高质量的合成数据，接着喂给下一代 AI。\n\n但在物理、化学、生物这些“原子世界”，速度稍微慢一点。\n因为 AI 猜想出一个新材料，还得在现实里做实验验证。\n\n但这也快了。\nDeepMind 已经在伦敦建了一个自动化实验室。\n他们手里攒了 20 万个新材料设计，里面可能藏着超导体，全指望机器自己去闭环验证。\n\n发现问题了吗？\n在这个研发、测试、升级的闭环里，人类正在一步步变成多余的配置。\n\n哪怕是 Hassabis 自己，在说完“大家都在做自我改进”之后，也承认：\n这种“把人类完全移出反馈回路”的安全风险，让他整夜整夜睡不着。\n\n这就是最荒诞的地方。\n每一个前沿实验室的掌舵人，都清楚跨过这条线意味着什么。\n但在行业极速竞争的鞭笞下，明知前面是悬崖，谁也不敢第一个踩刹车。","category":"科技","score":80,"translated_x_url":"https://x.com/i/status/2069435221737361656","translated_status_id":"2069435221737361656","published_at":"2026-06-23 14:10:48","created_at":"2026-06-23T16:00:39+02:00","url":"https://mubeitech.com/p/2069420372089520483","markdown_url":"https://mubeitech.com/p/2069420372089520483/markdown"},{"rank":6,"id":"2073432956765630470","account":"mubei","brand":"@mubei","title":"拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。 他把…","summary":"拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。 他把 AI 的风险，清清楚楚地拆成了两类。 第一类，是坏人作恶。 比如利用 AI 去搞破坏、做坏事。 这类风险听着吓人，但其实性质很传统，它属于\"制度拦截\"的范畴。…","body":"拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。\n\n他把 AI 的风险，清清楚楚地拆成了两类。\n\n第一类，是坏人作恶。\n比如利用 AI 去搞破坏、做坏事。\n这类风险听着吓人，但其实性质很传统，它属于\"制度拦截\"的范畴。\n靠法律、政策监管、安全审查，筑起高墙，把坏人挡在外面就行。\n\n但真正让他头疼的，是第二类。\n一个纯粹的硬核技术风险：\n当 AI 变得越来越强大，开始进入自主干活的\"智能体时代\"（Agentic Era）时。\n我们怎么确保，能造出足够坚固的\"护栏\"，让它永远只做人类想让它做的事？\n\n主持人追问了一句：那我们现在知道该怎么做吗？\n这位全球最顶尖实验室的掌门人坦言：\n\"我觉得，这依然是一个悬而未决的研究课题。\"\n\"而且，我们迫切需要进行更多的研究。\"\n\n你看，真正懂行的人，从不跟你扯虚无缥缈的\"AI 觉醒毁灭人类\"。\n他们焦虑的，是纯粹的工程学滞后。\n\nAI 帮人类治病、改善气候的红利，眼看就要落地；\nAI 像人一样独立决策、执行任务的时代，也正在轰轰烈烈地铺开。\n但最前沿的开拓者却告诉你：那个能彻底管住它的\"安全刹车\"，到现在还没有研发出来。\n\n在自主化系统大规模铺开之前，如何测试它、审计它、验证它？\n这个巨大的控制真空期，就是当下最真实的行业现实。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2073756224785428887","translated_status_id":"2073756224785428887","published_at":"2026-07-05 10:42:08","created_at":"2026-07-05T12:35:42+02:00","url":"https://mubeitech.com/p/2073432956765630470","markdown_url":"https://mubeitech.com/p/2073432956765630470/markdown"}]}