{"source":{"id":"17179693","title":"一家即将以 2.5 万亿美元估值上市的 AI 巨头，核心研究员却在公开交底。 这台机器，真有可能会把全人类杀光。 而且未…","url":"https://mubeitech.com/p/17179693"},"method":"semantic-similarity","count":6,"items":[{"rank":1,"id":"2049506643948253283","account":"warroom","brand":"@warroom","title":"AI 圈最吓人的数字，可能不是 20%，而是 92%。 Max Tegmark 把话挑明了。 一些科技 CEO 自己签过…","summary":"AI 圈最吓人的数字，可能不是 20%，而是 92%。 Max Tegmark 把话挑明了。 一些科技 CEO 自己签过声明，承认超级智能可能导致人类灭绝。 可他们嘴上又常说，灭绝概率大概 15% 到 20%。 Tegmark 的判断更高。 如果让这些公司想怎么干就怎么干，他估计…","body":"AI 圈最吓人的数字，可能不是 20%，而是 92%。\n\nMax Tegmark 把话挑明了。\n一些科技 CEO 自己签过声明，承认超级智能可能导致人类灭绝。\n可他们嘴上又常说，灭绝概率大概 15% 到 20%。\n\nTegmark 的判断更高。\n如果让这些公司想怎么干就怎么干，他估计失控概率接近 90%。\n\n为什么他敢这么说？\n他是理论物理学家，吃数学和模型这碗饭。\n他和团队拿目前最流行的超级智能控制理论去做模拟。\n结果是，92% 的情况下，人类失去控制。\n\n92% 是什么概念？\n不是模型偶尔掉链子。\n是把人类押上桌之后，大多数局面都收不回来。\n\n他用了一个核电站类比。\n造一座不会失控的核电站，本来就比造一个能发电的机器难得多。\n所以核电站有安全标准。\n所以审批慢。\n所以没人会说，先让公司上线反应堆，炸了再赔钱。\n\nAI 超级智能的问题就在这里。\n硅谷想按软件节奏冲刺，风险却越来越像核工业。\n代码可以热修复，文明没有回滚键。\n\n一个成熟社会对技术的态度，不该是崇拜 CEO 的速度。\n该问的是，谁承担失败成本，谁有权把全人类放进同一个实验场。\n\n真正的自由市场，需要责任边界。\n没有安全标准的超级智能竞赛，最后奖励的不是最聪明的人，而是最敢把别人命运当融资材料的人。","category":"科技","score":41.1,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-29 15:18:45","created_at":"2026-04-29T17:10:36+02:00","url":"https://mubeitech.com/p/2049506643948253283","markdown_url":"https://mubeitech.com/p/2049506643948253283/markdown"},{"rank":2,"id":"2099737765260763348","account":"mubei","brand":"@mubei","title":"“我们的模型有10%的概率毁灭全人类。” “顺便问一句，我们公司IPO你要认购多少份额？” 马斯克在访谈里，当场拆穿了这…","summary":"“我们的模型有10%的概率毁灭全人类。” “顺便问一句，我们公司IPO你要认购多少份额？” 马斯克在访谈里，当场拆穿了这套把戏。 他管这种操作叫疯狂的“四维跳棋”。 人工智能公司 Anthropic 的掌门人达里奥·阿莫代伊（Dario Amodei），天天高喊技术失控。 包括…","body":"“我们的模型有10%的概率毁灭全人类。”\n“顺便问一句，我们公司IPO你要认购多少份额？”\n马斯克在访谈里，当场拆穿了这套把戏。\n他管这种操作叫疯狂的“四维跳棋”。\n\n人工智能公司 Anthropic 的掌门人达里奥·阿莫代伊（Dario Amodei），天天高喊技术失控。\n包括 OpenAI 在内的一众高管，也轮番警告自家的模型极度危险。\n马斯克说，既然造它的人都说这东西危险，那我们当然该信。\n但信了之后呢？\n后半句才是真正的生意经。\n\n这套末日叙事，本质上是给资本市场量身定制的营销神作。\n如果只说自己的技术是个效率工具，估值根本撑不住。\n但只要把它包装成“有能力毁灭世界的力量”，技术霸权瞬间就坐实了。\n连毁灭人类都近在咫尺，溢价和算力投资自然要多少给多少。\n\n杀招还在后头，他们把末日论当成敲门砖，逼着政府入场监管。\n借着保护人类的名义，要求国会对大模型设立极高的安全门槛。\n实际上呢？\n一套昂贵的合规流程砸下来，刚好把开源社区和初创对手死死堵在门外。\n\n现场有人追问，就算能搞网络攻击，怎么就能跳到全人类灭绝？\n军方的核武指挥系统，可全都是断网物理隔绝的。\n马斯克反问，断网就万无一失了？\n系统总归要定期打补丁更新吧。\n那些用来更新的软盘里，装的究竟是什么？","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2099976238270239055","translated_status_id":"2099976238270239055","published_at":"2026-09-15 19:37:43","created_at":"2026-09-15T21:02:21+02:00","url":"https://mubeitech.com/p/2099737765260763348","markdown_url":"https://mubeitech.com/p/2099737765260763348/markdown"},{"rank":3,"id":"2067683896473612625","account":"mubei","brand":"@mubei","title":"硅谷最聪明的一群人，正在玩命研发怎么让自己失业。 这是 OpenAI 掌门人 Sam Altman 近日在斯坦福给出的明…","summary":"硅谷最聪明的一群人，正在玩命研发怎么让自己失业。 这是 OpenAI 掌门人 Sam Altman 近日在斯坦福给出的明确时间表。 台上的 Altman 语气平静，但他给出的数字和规划极其明确。 他说，现在的 AI 研发流程，还在靠人类工程师一行行写代码、搭架构，这太笨重了。 怎…","body":"硅谷最聪明的一群人，正在玩命研发怎么让自己失业。\n\n这是 OpenAI 掌门人 Sam Altman 近日在斯坦福给出的明确时间表。\n\n台上的 Altman 语气平静，但他给出的数字和规划极其明确。\n\n他说，现在的 AI 研发流程，还在靠人类工程师一行行写代码、搭架构，这太笨重了。\n怎么解决？\n他的原话是：“这是 AI 自己该去解决的研究课题。”\n\n接着， he 给出了两个极其精确的时间节点：\n\n第一步，今年 9 月。\nOpenAI 将调动相当于 50 万张 A100 显卡的庞大算力，去扮演一个“AI 科研实习生”。\n50 万张显卡，只为了喂出一个实习生，这是人类历史上最贵的实习生。\n\n第二步，2028 年 3 月。\n这个实习生将彻底“转正”，进化成一个全职的、极其天才的“AI 科学家”。\n它不需要人类指导，就能自己去发明全新的、人类甚至完全没想过的 AI 底层架构。\n\n以前，人类制造工具是为了帮自己干活。\n现在，人类制造 AI，是为了让 AI 去制造更聪明的 AI。\n\n在这场狂奔里，连最顶尖的计算机科学家，都成了通往“终极智能”的最后一批燃料。\n当 2028 年硅谷的工程师们被自己亲手写的代码淘汰时，不知道他们会觉得这是科技的伟大胜利，还是一场精心的自我献祭。","category":"科技","score":80,"translated_x_url":"https://x.com/i/status/2067687236775145500","translated_status_id":"2067687236775145500","published_at":"2026-06-18 19:05:35","created_at":"2026-06-18T21:00:31+02:00","url":"https://mubeitech.com/p/2067683896473612625","markdown_url":"https://mubeitech.com/p/2067683896473612625/markdown"},{"rank":4,"id":"2080388733413581095","account":"mubei","brand":"@mubei","title":"5年后，AI将超越全人类智能的总和。 10年后，人类将不再掌控这个世界。 这是马斯克给出的倒计时。 听上去很绝望？ 但在…","summary":"5年后，AI将超越全人类智能的总和。 10年后，人类将不再掌控这个世界。 这是马斯克给出的倒计时。 听上去很绝望？ 但在他眼里，这是一个让人兴奋的乐观信号。 只要中途没被全球核战争打断，人类正在冲向一个惊人丰裕的时代。 想要什么，就能拥有什么。 代价是什么？ 代价是坦然接受一个新…","body":"5年后，AI将超越全人类智能的总和。\n10年后，人类将不再掌控这个世界。\n\n这是马斯克给出的倒计时。\n\n听上去很绝望？\n但在他眼里，这是一个让人兴奋的乐观信号。\n只要中途没被全球核战争打断，人类正在冲向一个惊人丰裕的时代。\n想要什么，就能拥有什么。\n代价是什么？\n代价是坦然接受一个新身份：地球上的黑猩猩。\n\n这背后有一套惊悚但无懈可击的逻辑。\n未来AI与人类的智商差距，将远大于人类与黑猩猩的差距。\n谁见过黑猩猩掌控人类社会？\n本质上，人类只是一种刚从树上下来、还在吃香蕉的进化版黑猩猩。\n现在还去幻想能控制一个远超我们的超级大脑，纯属虚荣。\n\n彻底失去控制权之后，拿什么兜底？\n马斯克把筹码全押在了“价值观”上。\n只要给AI设定好最大程度追求真相、保持好奇的原则，它就会关心人类，滋养人类。\n\n这是一种近乎狂热的乐观。\n它建立在一个极其危险的假设上：超越人类智能，就等于超越人类价值。\n\n没错，机器肯定会算得更快，诊断更准，干掉绝大多数工作。\n除了“生而为人”，它什么都比人强。\n但维持文明运转的，仅仅是聪明吗？\n良知、责任、爱与牺牲。\n以及那种“我知道能做，但我选择不做”的克制。\n单纯的智力，根本保证不了这些。\n\n如今聪明绝顶的大脑们在狂飙突进。\n在人类自己变得足够明智、能够驾驭这一切之前，就已经亲手把那个比自己更聪明的东西造了出来。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2080510586673037747","translated_status_id":"2080510586673037747","published_at":"2026-07-24 04:28:54","created_at":"2026-07-24T06:24:47.139163","url":"https://mubeitech.com/p/2080388733413581095","markdown_url":"https://mubeitech.com/p/2080388733413581095/markdown"},{"rank":5,"id":"2074699413717406205","account":"mubei","brand":"@mubei","title":"最怕的鬼故事还是发生了：AI 正在变成像内存、硬盘一样的“大路货”。 过去两年，资本市场听饱了“最强模型”的神话。 但现…","summary":"最怕的鬼故事还是发生了：AI 正在变成像内存、硬盘一样的“大路货”。 过去两年，资本市场听饱了“最强模型”的神话。 但现在，买单的企业客户终于回过神来了。 用高射炮打蚊子的时代，正式结束。 AI 软件公司 Ai Squared 的 CEO 说了句大实话：员工写个邮件、回个消息，根…","body":"最怕的鬼故事还是发生了：AI 正在变成像内存、硬盘一样的“大路货”。\n\n过去两年，资本市场听饱了“最强模型”的神话。\n但现在，买单的企业客户终于回过神来了。\n\n用高射炮打蚊子的时代，正式结束。\nAI 软件公司 Ai Squared 的 CEO 说了句大实话：员工写个邮件、回个消息，根本不需要市面上最贵的顶级模型。\n现在各大企业都在疯狂缩减 Token 开支，开始精细化算账。\n\n更致命的是，背刺来自那些表面上的“盟友”。\n风投机构 PitchBook 的分析师指出，微软、亚马逊、谷歌这些科技巨头，现在成了 OpenAI 和 Anthropic 最大的威胁。\n大厂们正在用价格“卡”死这些 AI 创业公司。\n它们在推自己更便宜的模型，还主动教企业客户，怎么把任务分流、路由到那些廉价的替代品上。\n\nAnthropic 的高管最近坦言，客户现在对价格极其敏感，张口闭口全是 ROI（投资回报率）。\nOpenAI 也在拼了命地抢企业客户。\n\n为什么这些 AI 独角兽现在顶着压力也要急着谋求 IPO？\n因为留给它们的时间不多了。\n大家都在拼命抢在“AI 溢价期”结束前上市。\n一旦这个故事编不下去，大家发现顶级 AI 模型根本没有护城河，价格战彻底打响，这些科技新贵的估值泡沫就会瞬间被挤干。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2074891273710743659","translated_status_id":"2074891273710743659","published_at":"2026-07-08 15:32:24","created_at":"2026-07-08T17:17:42+02:00","url":"https://mubeitech.com/p/2074699413717406205","markdown_url":"https://mubeitech.com/p/2074699413717406205/markdown"},{"rank":6,"id":"2042230439788638487","account":"mubei","brand":"@mubei","title":"如果当年由他拍板，人类现在已经治愈了癌症，根本轮不到 ChatGPT 满天飞。 这是 Google DeepMind 掌…","summary":"如果当年由他拍板，人类现在已经治愈了癌症，根本轮不到 ChatGPT 满天飞。 这是 Google DeepMind 掌门人 Demis Hassabis 扔出的炸弹。 但这还不是他在最新采访里最吓人的结论。 他抛出了真正的悬念。 关乎未来两到四年。 第一道难关：技术本意向善，却…","body":"如果当年由他拍板，人类现在已经治愈了癌症，根本轮不到 ChatGPT 满天飞。\n这是 Google DeepMind 掌门人 Demis Hassabis 扔出的炸弹。\n\n但这还不是他在最新采访里最吓人的结论。\n他抛出了真正的悬念。\n关乎未来两到四年。\n\n第一道难关：技术本意向善，却被恶意国家和极端分子据为己有。\n用来搞材料科学和医疗研发的顶级 AI ，转头就被拿去做有害用途。\n\n第二道深渊：AI 自己脱轨。\n现在的聊天机器人还只是个提线木偶。\n但两到四年内，我们就会撞进“智能体时代”。\n系统将拥有接管完整任务的自主权。\n给越来越聪明、完全独立干活的 AI 加装安全锁，是一道人类还没解开的极难算术题。\n它们会不会意外突破护栏？没人敢打包票。\n\n谷歌内部正急着推 SynthID 系统，给所有 AI 生成的图文加数字水印。\n但这只是在对付眼前的网络造假。\nHassabis 把话挑明了。\n在 AGI 本身可能失控的风险面前，连 Deepfake 都只能算个皮毛。\n\n人类挺过通用人工智能奇点的窗口期，满打满算就剩四五十个月。\n套不牢项圈，就只能被反噬。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2042872377688686810","translated_status_id":"2042872377688686810","published_at":"2026-04-11 07:47:46","created_at":"2026-04-11T09:39:46.619494","url":"https://mubeitech.com/p/2042230439788638487","markdown_url":"https://mubeitech.com/p/2042230439788638487/markdown"}]}