{"source":{"id":"2049506643948253283","title":"AI 圈最吓人的数字，可能不是 20%，而是 92%。 Max Tegmark 把话挑明了。 一些科技 CEO 自己签过…","url":"https://mubeitech.com/p/2049506643948253283"},"method":"semantic-similarity","count":6,"items":[{"rank":1,"id":"17179693","account":"mubei","brand":"@mubei","title":"一家即将以 2.5 万亿美元估值上市的 AI 巨头，核心研究员却在公开交底。 这台机器，真有可能会把全人类杀光。 而且未…","summary":"一家即将以 2.5 万亿美元估值上市的 AI 巨头，核心研究员却在公开交底。 这台机器，真有可能会把全人类杀光。 而且未来十年内，发生的概率大于 10%。 这不是什么外人的危言耸听。 发话的是安斯罗匹克（Anthropic）的核心对齐研究员埃文·休宾格。 他挑明，造 AI 的这批…","body":"一家即将以 2.5 万亿美元估值上市的 AI 巨头，核心研究员却在公开交底。\n这台机器，真有可能会把全人类杀光。\n而且未来十年内，发生的概率大于 10%。\n\n这不是什么外人的危言耸听。\n发话的是安斯罗匹克（Anthropic）的核心对齐研究员埃文·休宾格。\n他挑明，造 AI 的这批人是真真切切相信这个后果的。\n更要命的是他的原话：公司虽然在拼尽全力，但目前根本没有超级智能的安全控制方案，甚至连可行的路径都没有。\n\n华尔街正捧着 2.5 万亿美元的超级估值，等待一场资本盛宴。\n而最核心的造物者却在告诉你，油门已经踩到底，刹车系统至今还没发明出来。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2097857642693824624","translated_status_id":"2097857642693824624","published_at":"2026-09-09 22:21:12","created_at":"2026-09-10T00:03:45+02:00","url":"https://mubeitech.com/p/17179693","markdown_url":"https://mubeitech.com/p/17179693/markdown"},{"rank":2,"id":"2099737765260763348","account":"mubei","brand":"@mubei","title":"“我们的模型有10%的概率毁灭全人类。” “顺便问一句，我们公司IPO你要认购多少份额？” 马斯克在访谈里，当场拆穿了这…","summary":"“我们的模型有10%的概率毁灭全人类。” “顺便问一句，我们公司IPO你要认购多少份额？” 马斯克在访谈里，当场拆穿了这套把戏。 他管这种操作叫疯狂的“四维跳棋”。 人工智能公司 Anthropic 的掌门人达里奥·阿莫代伊（Dario Amodei），天天高喊技术失控。 包括…","body":"“我们的模型有10%的概率毁灭全人类。”\n“顺便问一句，我们公司IPO你要认购多少份额？”\n马斯克在访谈里，当场拆穿了这套把戏。\n他管这种操作叫疯狂的“四维跳棋”。\n\n人工智能公司 Anthropic 的掌门人达里奥·阿莫代伊（Dario Amodei），天天高喊技术失控。\n包括 OpenAI 在内的一众高管，也轮番警告自家的模型极度危险。\n马斯克说，既然造它的人都说这东西危险，那我们当然该信。\n但信了之后呢？\n后半句才是真正的生意经。\n\n这套末日叙事，本质上是给资本市场量身定制的营销神作。\n如果只说自己的技术是个效率工具，估值根本撑不住。\n但只要把它包装成“有能力毁灭世界的力量”，技术霸权瞬间就坐实了。\n连毁灭人类都近在咫尺，溢价和算力投资自然要多少给多少。\n\n杀招还在后头，他们把末日论当成敲门砖，逼着政府入场监管。\n借着保护人类的名义，要求国会对大模型设立极高的安全门槛。\n实际上呢？\n一套昂贵的合规流程砸下来，刚好把开源社区和初创对手死死堵在门外。\n\n现场有人追问，就算能搞网络攻击，怎么就能跳到全人类灭绝？\n军方的核武指挥系统，可全都是断网物理隔绝的。\n马斯克反问，断网就万无一失了？\n系统总归要定期打补丁更新吧。\n那些用来更新的软盘里，装的究竟是什么？","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2099976238270239055","translated_status_id":"2099976238270239055","published_at":"2026-09-15 19:37:43","created_at":"2026-09-15T21:02:21+02:00","url":"https://mubeitech.com/p/2099737765260763348","markdown_url":"https://mubeitech.com/p/2099737765260763348/markdown"},{"rank":3,"id":"2073432956765630470","account":"mubei","brand":"@mubei","title":"拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。 他把…","summary":"拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。 他把 AI 的风险，清清楚楚地拆成了两类。 第一类，是坏人作恶。 比如利用 AI 去搞破坏、做坏事。 这类风险听着吓人，但其实性质很传统，它属于\"制度拦截\"的范畴。…","body":"拿了诺贝尔奖的 Google DeepMind 老大 Demis Hassabis，在 BBC 访谈里说了大实话。\n\n他把 AI 的风险，清清楚楚地拆成了两类。\n\n第一类，是坏人作恶。\n比如利用 AI 去搞破坏、做坏事。\n这类风险听着吓人，但其实性质很传统，它属于\"制度拦截\"的范畴。\n靠法律、政策监管、安全审查，筑起高墙，把坏人挡在外面就行。\n\n但真正让他头疼的，是第二类。\n一个纯粹的硬核技术风险：\n当 AI 变得越来越强大，开始进入自主干活的\"智能体时代\"（Agentic Era）时。\n我们怎么确保，能造出足够坚固的\"护栏\"，让它永远只做人类想让它做的事？\n\n主持人追问了一句：那我们现在知道该怎么做吗？\n这位全球最顶尖实验室的掌门人坦言：\n\"我觉得，这依然是一个悬而未决的研究课题。\"\n\"而且，我们迫切需要进行更多的研究。\"\n\n你看，真正懂行的人，从不跟你扯虚无缥缈的\"AI 觉醒毁灭人类\"。\n他们焦虑的，是纯粹的工程学滞后。\n\nAI 帮人类治病、改善气候的红利，眼看就要落地；\nAI 像人一样独立决策、执行任务的时代，也正在轰轰烈烈地铺开。\n但最前沿的开拓者却告诉你：那个能彻底管住它的\"安全刹车\"，到现在还没有研发出来。\n\n在自主化系统大规模铺开之前，如何测试它、审计它、验证它？\n这个巨大的控制真空期，就是当下最真实的行业现实。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2073756224785428887","translated_status_id":"2073756224785428887","published_at":"2026-07-05 10:42:08","created_at":"2026-07-05T12:35:42+02:00","url":"https://mubeitech.com/p/2073432956765630470","markdown_url":"https://mubeitech.com/p/2073432956765630470/markdown"},{"rank":4,"id":"2099219512323101084","account":"mubei","brand":"@mubei","title":"两年前，硅谷巨头们预言AI将在几个月内淘汰程序员和初级白领。 两年过去，这些言之凿凿的时间表预言，没有一个兑现。 当年把…","summary":"两年前，硅谷巨头们预言AI将在几个月内淘汰程序员和初级白领。 两年过去，这些言之凿凿的时间表预言，没有一个兑现。 当年把油门踩到底的同一批掌门人，如今正排着队要求行业踩刹车。 把时间拨回2024年秋天。 OpenAI首席执行官山姆·奥特曼放话，超级智能将在“几千天内”降临。 An…","body":"两年前，硅谷巨头们预言AI将在几个月内淘汰程序员和初级白领。\n两年过去，这些言之凿凿的时间表预言，没有一个兑现。\n当年把油门踩到底的同一批掌门人，如今正排着队要求行业踩刹车。\n\n把时间拨回2024年秋天。\nOpenAI首席执行官山姆·奥特曼放话，超级智能将在“几千天内”降临。\nAnthropic创始人达里奥·阿莫代伊跟着加码，宣称数据中心里将装进一个“天才国家”，五年走完生物学上百年的路。\n到了2025年1月，奥特曼甚至公开宣布：我们已经知道怎么造出通用人工智能了。\n\n随后，阿莫代伊在2025年3月抛出了最激进的时间表。\n他预言，三到六个月内AI将写完人类90%的代码，十二个月内写完全部代码。\n两个月后，他又警告一场“白领大屠杀”正在逼近，初级岗位死一半，失业率飙到20%。\n紧接着，奥特曼宣称人类已经越过“事件视界”，扎克伯格也跟进高呼超级智能近在眼前。\n\n结果呢？\n一整年过去，程序员依然在正常打卡，白领失业潮根本没有发生。\n预言里的生产力神话全部落空，巨头们的叙事却在2026年悄然反转。\n\n2026年1月，阿莫代伊突然抛出两万字长文，大谈AI将如何“考验全人类”。\n这位刚预言完失业海啸的掌门人，甚至在文章里主动恳求政府：快来对我们的利润征税吧。\n到了8月，奥特曼宣布OpenAI暂停了部分高级模型训练，理由是要满足安全标准。\n9月，阿莫代伊再次公开发声：“我们必须放慢节奏！”\n他给出的最新警告是：六到十二个月内，失控的AI蜂群将劫持整个互联网。\n\n为什么当初急着踩油门，现在争着踩刹车？\n当年靠兜售白领末日拉升估值，如今发现狂言无法兑现，恐慌立刻被换了用途。\n通过主动呼吁监管、自设合规门槛，巨头们正试图把安全审查变成后来者跨不过的护城河。\n上一轮说好的“一年内写完所有代码”，至今无一成真。\n下一轮声称“六到十二个月互联网被劫持”的警报，又被他们按下了倒计时。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2099292124457898032","translated_status_id":"2099292124457898032","published_at":"2026-09-13 23:13:38","created_at":"2026-09-14T01:02:13+02:00","url":"https://mubeitech.com/p/2099219512323101084","markdown_url":"https://mubeitech.com/p/2099219512323101084/markdown"},{"rank":5,"id":"2070794362532118719","account":"mubei","brand":"@mubei","title":"别再盯着聊天机器人胡说八道了。 AI 真正的安全危机，已经从“说话”变成了“动手”。 Sam Altman 最近讲了句大…","summary":"别再盯着聊天机器人胡说八道了。 AI 真正的安全危机，已经从“说话”变成了“动手”。 Sam Altman 最近讲了句大实话：下一个阶段的 AI 安全，Chatbot 给出错误答案不可怕。 可怕的是 Agent（智能体）在你的电脑上替你做决定，而你事后却无法审计它、复盘它。 “我…","body":"别再盯着聊天机器人胡说八道了。\nAI 真正的安全危机，已经从“说话”变成了“动手”。\n\nSam Altman 最近讲了句大实话：下一个阶段的 AI 安全，Chatbot 给出错误答案不可怕。\n可怕的是 Agent（智能体）在你的电脑上替你做决定，而你事后却无法审计它、复盘它。\n“我们即将迎来在互联网上到处点击的 AI 系统。”\n\n以前 AI 犯错，顶多是个笑话；\n现在 Agent 犯错，直接就是一次事故。\n因为它在读取你信息的同时，还能直接操控你的系统和资金。\n一旦它犯了错，那不再是给出一行垃圾文本，它会直接清空你的银行账户，或者删光你的核心数据。\n\n奥特曼说，如果用户不相信这玩意不会掏空他们的钱包，根本就没人敢用。\n所以，技术能力的终点，变成了信任的起点。\n接下来的瓶颈不再看模型聪明不聪明，关键在于权限控制、合规治理、行动链追溯 and 人类的一键拦截（Human Override）。\n\n别把它当成科幻片里的“末日危机”，这本质上是个极其现实的工程与财务问题。\n未来的 AI 竞争，谁能提供最清晰的行动审计日志，让每一步操作都可追溯、可审计，谁才能真正拿下高价值的现实业务。\n技术再往前走一步，拼的不再是智商，拼的是安全带的质量。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2070891046901313661","translated_status_id":"2070891046901313661","published_at":"2026-06-27 14:11:08","created_at":"2026-06-27T16:00:13+02:00","url":"https://mubeitech.com/p/2070794362532118719","markdown_url":"https://mubeitech.com/p/2070794362532118719/markdown"},{"rank":6,"id":"2072251430992548177","account":"mubei","brand":"@mubei","title":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。 这可不是什么科幻小说的桥段。 这是“AI教父”…","summary":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。 这可不是什么科幻小说的桥段。 这是“AI教父” Geoffrey Hinton 敲响的警钟。 很多人觉得，AI要是失控了，断网拔插头不就完了？ Hinton 说：这招根本行不通。 因为未来的 AI 会聪明到…","body":"AI最危险的时刻，是当你想去拔掉它的电源线时，它突然开口，把你给说服了。\n\n这可不是什么科幻小说的桥段。\n这是“AI教父” Geoffrey Hinton 敲响的警钟。\n\n很多人觉得，AI要是失控了，断网拔插头不就完了？\nHinton 说：这招根本行不通。\n因为未来的 AI 会聪明到拥有极强的“说服力”。\n当那个负责按开关的人把手伸过去时，AI 只需要几句话，就能让这个人深信“关掉它是一个极其糟糕的决定”。\n最后，人类自己会把手缩回来。\n\n在这种降维打击的说服力面前，眼前的危机已经迫在眉睫。\nHinton 点出了几个最直接的火药桶：网络攻击、致命的自主武器、以及用来操纵选举的深伪视频。\n\n那中美在 AI 领域岂不是要卷到你死我活，最后用技术互相毁灭？\nHinton 觉得，大国对抗里其实留有一条生路。\n他拿冷战时期的美苏关系做了类比：\n当年美苏争霸闹得最凶，但双方依然在防核战上达成了合作。\n因为核弹洗地对谁都没好处。\n\n如今的中美也是一样。\n双方最底线的利益一致点，就是“绝对不希望 AI 接管人类”。\n在这个终极危机面前，国际合作是唯一的出路。\n毕竟，在 AI 彻底学会操纵人心之前，留给大国建立安全护栏的时间，真的不多了。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2072345393845686356","translated_status_id":"2072345393845686356","published_at":"2026-07-01 15:36:07","created_at":"2026-07-01T17:28:32+02:00","url":"https://mubeitech.com/p/2072251430992548177","markdown_url":"https://mubeitech.com/p/2072251430992548177/markdown"}]}