{"source":{"id":"2038664548803121534","title":"人类智能被超越的节点还有多远？ 已经到了地平线。 Anthropic 掌门人 Dario 刚发出了最直接的警告。 语气里…","url":"https://mubeitech.com/p/2038664548803121534"},"method":"semantic-similarity","count":6,"items":[{"rank":1,"id":"2059986678262235405","account":"mubei","brand":"@mubei","title":"Anthropic CEO Dario Amodei 最意外的事，是公众还没意识到 AI 指数曲线快跑到最后一段了。 他…","summary":"Anthropic CEO Dario Amodei 最意外的事，是公众还没意识到 AI 指数曲线快跑到最后一段了。 他说，过去三年，底层技术大体按他的预期前进。 模型从聪明高中生，走到聪明大学生，再走到开始做 PhD 和专业工作的水平。 在代码领域，甚至已经越过这个线。 真正让…","body":"Anthropic CEO Dario Amodei 最意外的事，是公众还没意识到 AI 指数曲线快跑到最后一段了。\n\n他说，过去三年，底层技术大体按他的预期前进。\n模型从聪明高中生，走到聪明大学生，再走到开始做 PhD 和专业工作的水平。\n在代码领域，甚至已经越过这个线。\n\n真正让他惊讶的，是外面的人还在吵同一批旧政治议题。\n新剧集。\n新表情包。\n明星互撕。\n选举新闻。\n人类历史级别的生产力迁移，反而像背景噪音一样被滑过去。\n\n他的底层判断很朴素。\n早在 2017 年，GPT-1 刚出来时，他写过一个想法，叫 Big Blob of Compute Hypothesis。\n大意是，别太迷信聪明技巧。\n真正长期起作用的，是几件笨东西。\n\n原始算力有多少。\n数据量有多少。\n数据分布够不够广。\n训练时间够不够长。\n目标函数能不能一路扩展。\n数值稳定性能不能撑住那团巨大的计算流。\n\n这套逻辑，后来在预训练 scaling law 里跑通了。\n现在 Anthropic 看到，RL 也在走类似路线。\n先在数学竞赛题上训练。\n再扩到代码。\n再扩到更多任务。\n模型能力会随着训练时间呈现近似对数线性提升。\n\n有人质疑，这不像人类学习。\n人类不用看几万亿个 token，也不用烧掉几十亿美元算力，才会用 Excel、PowerPoint、浏览器。\n如果 AI 真有人的学习核心，为什么还要建这么多强化学习环境？\n\nDario 的回答有意思。\n这个谜题存在，但可能没那么致命。\n人脑出生时已经带着进化给的先验。\n语言模型从随机权重开始，像一张更空的白纸。\n\n所以预训练和 RL，更像夹在人类进化与人类学习之间的一层东西。\n模型先用天量数据长出先验。\n再靠长上下文，在具体任务里快速适应。\n当上下文长度到一百万级别时，推理成本成了主要阻碍，学习能力本身已经开始显形。\n\n这就是很多人低估 AI 的地方。\n他们以为差距在于知道哪个工具火。\n真正的差距在于，谁已经把工具嵌进工作流，谁还把它当搜索框、玩具、聊天窗口。\n\n大多数人只用了 10%。\n少数人正在把 100% 的工作方式重写一遍。\n\n下一轮阶层分化，未必先发生在公司估值表里。\n它会先发生在同一间办公室里，发生在两个看似职位相同的人之间。\n一个人在操作软件。\n另一个人在调度计算。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-28 16:01:27","created_at":"2026-05-28T17:58:23.017496","url":"https://mubeitech.com/p/2059986678262235405","markdown_url":"https://mubeitech.com/p/2059986678262235405/markdown"},{"rank":2,"id":"2058248155830092089","account":"mubei","brand":"@mubei","title":"目前没有任何一家科技公司，知道怎么带着普通人一起进入 AI 时代。 包括 Anthropic 自己。 Anthropic…","summary":"目前没有任何一家科技公司，知道怎么带着普通人一起进入 AI 时代。 包括 Anthropic 自己。 Anthropic 的掌门人 Dario Amodei 摊牌了。 他认为 AI 正在引发几百年来人类最大的变革。 但直到今天，全人类还只是这场变革的旁观者。 每天用它写代码、发邮…","body":"目前没有任何一家科技公司，知道怎么带着普通人一起进入 AI 时代。\n包括 Anthropic 自己。\n\nAnthropic 的掌门人 Dario Amodei 摊牌了。\n他认为 AI 正在引发几百年来人类最大的变革。\n但直到今天，全人类还只是这场变革的旁观者。\n每天用它写代码、发邮件，只能算产业链末端的用户。\n底层还有一个巨大的缺失环节。\n\nAnthropic 之前做过一个实验。\n他们给自家大模型 Claude 搞了一套“宪法”。\n用来规定 AI 能做什么、不能做什么。\n他们尝试让普通公民来给这套宪法提反馈。\n试图让大众在设计阶段就能发出声音。\n\nDario 承认这招太微不足道了。\n他自己也没有找到真正的答案。\n\n回顾历史上每一次重大的技术跨越。\n无论是印刷术、电力还是互联网。\n新机器总会造就一批手握特权的赢家。\n同时把大量人群抛在身后，让他们觉得技术是一场强加于人的灾难。\n底层积压的怨恨，最终会转化为长达几十年的政治反噬和监管铁拳。\n\n最顶级的 AI 建设者开始忌惮这种历史规律了。\n技术狂奔的尽头是社会契约。\n哪家公司能拼上这块缺失的拼图，才会赢下继续开发超级系统的长期信任。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-23 18:35:33","created_at":"2026-05-23T20:32:13.069324","url":"https://mubeitech.com/p/2058248155830092089","markdown_url":"https://mubeitech.com/p/2058248155830092089/markdown"},{"rank":3,"id":"2080388733413581095","account":"mubei","brand":"@mubei","title":"5年后，AI将超越全人类智能的总和。 10年后，人类将不再掌控这个世界。 这是马斯克给出的倒计时。 听上去很绝望？ 但在…","summary":"5年后，AI将超越全人类智能的总和。 10年后，人类将不再掌控这个世界。 这是马斯克给出的倒计时。 听上去很绝望？ 但在他眼里，这是一个让人兴奋的乐观信号。 只要中途没被全球核战争打断，人类正在冲向一个惊人丰裕的时代。 想要什么，就能拥有什么。 代价是什么？ 代价是坦然接受一个新…","body":"5年后，AI将超越全人类智能的总和。\n10年后，人类将不再掌控这个世界。\n\n这是马斯克给出的倒计时。\n\n听上去很绝望？\n但在他眼里，这是一个让人兴奋的乐观信号。\n只要中途没被全球核战争打断，人类正在冲向一个惊人丰裕的时代。\n想要什么，就能拥有什么。\n代价是什么？\n代价是坦然接受一个新身份：地球上的黑猩猩。\n\n这背后有一套惊悚但无懈可击的逻辑。\n未来AI与人类的智商差距，将远大于人类与黑猩猩的差距。\n谁见过黑猩猩掌控人类社会？\n本质上，人类只是一种刚从树上下来、还在吃香蕉的进化版黑猩猩。\n现在还去幻想能控制一个远超我们的超级大脑，纯属虚荣。\n\n彻底失去控制权之后，拿什么兜底？\n马斯克把筹码全押在了“价值观”上。\n只要给AI设定好最大程度追求真相、保持好奇的原则，它就会关心人类，滋养人类。\n\n这是一种近乎狂热的乐观。\n它建立在一个极其危险的假设上：超越人类智能，就等于超越人类价值。\n\n没错，机器肯定会算得更快，诊断更准，干掉绝大多数工作。\n除了“生而为人”，它什么都比人强。\n但维持文明运转的，仅仅是聪明吗？\n良知、责任、爱与牺牲。\n以及那种“我知道能做，但我选择不做”的克制。\n单纯的智力，根本保证不了这些。\n\n如今聪明绝顶的大脑们在狂飙突进。\n在人类自己变得足够明智、能够驾驭这一切之前，就已经亲手把那个比自己更聪明的东西造了出来。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2080510586673037747","translated_status_id":"2080510586673037747","published_at":"2026-07-24 04:28:54","created_at":"2026-07-24T06:24:47.139163","url":"https://mubeitech.com/p/2080388733413581095","markdown_url":"https://mubeitech.com/p/2080388733413581095/markdown"},{"rank":4,"id":"2049502704406237655","account":"warroom","brand":"@warroom","title":"AI最让人不安的地方，是它已经开始帮自己长大。 Joe Allen的判断很简单：AI可能是历史上增长最快的行业，也是采用…","summary":"AI最让人不安的地方，是它已经开始帮自己长大。 Joe Allen的判断很简单：AI可能是历史上增长最快的行业，也是采用速度最快的技术之一。 Anthropic这样的公司，手里已经有一类系统，不会面向公众开放。 它们只会交给少数被挑选出来的企业。 原因也摆在台面上：这些系统危险到…","body":"AI最让人不安的地方，是它已经开始帮自己长大。\nJoe Allen的判断很简单：AI可能是历史上增长最快的行业，也是采用速度最快的技术之一。\nAnthropic这样的公司，手里已经有一类系统，不会面向公众开放。\n它们只会交给少数被挑选出来的企业。\n\n原因也摆在台面上：这些系统危险到不能随便放出去。\n更关键的是，这些系统在某种程度上，已经能构建自身。\n别把这句话听成科幻。\nAllen自己也加了限定：他不想夸大这一点。\n\n可他没有退掉核心事实：在Anthropic这类公司里，AI正在被用来制造AI。\n也就是说，人类工程师还在写代码，但下一代AI的部分建造过程，已经交给上一代AI参与。\n这一步叫什么？\n递归自我改进。\n\n一个系统越聪明，越能帮自己变聪明。\n产业增长速度、资本集中速度、模型迭代速度，三条线叠在一起，监管和公众理解都在后面追。\n保守一点看，真正的问题在权力边界。\n当危险系统只向少数公司开放，普通人连看见风险的资格都没有。\n\n技术当然要发展，但越强的工具，越不能只靠几间实验室和几份内部准则来决定社会能不能承受。\nAI还没有接管世界。\n它已经在接管自己的生产线。","category":"科技","score":44,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-29 15:05:31","created_at":"2026-04-29T16:54:57+02:00","url":"https://mubeitech.com/p/2049502704406237655","markdown_url":"https://mubeitech.com/p/2049502704406237655/markdown"},{"rank":5,"id":"2099219512323101084","account":"mubei","brand":"@mubei","title":"两年前，硅谷巨头们预言AI将在几个月内淘汰程序员和初级白领。 两年过去，这些言之凿凿的时间表预言，没有一个兑现。 当年把…","summary":"两年前，硅谷巨头们预言AI将在几个月内淘汰程序员和初级白领。 两年过去，这些言之凿凿的时间表预言，没有一个兑现。 当年把油门踩到底的同一批掌门人，如今正排着队要求行业踩刹车。 把时间拨回2024年秋天。 OpenAI首席执行官山姆·奥特曼放话，超级智能将在“几千天内”降临。 An…","body":"两年前，硅谷巨头们预言AI将在几个月内淘汰程序员和初级白领。\n两年过去，这些言之凿凿的时间表预言，没有一个兑现。\n当年把油门踩到底的同一批掌门人，如今正排着队要求行业踩刹车。\n\n把时间拨回2024年秋天。\nOpenAI首席执行官山姆·奥特曼放话，超级智能将在“几千天内”降临。\nAnthropic创始人达里奥·阿莫代伊跟着加码，宣称数据中心里将装进一个“天才国家”，五年走完生物学上百年的路。\n到了2025年1月，奥特曼甚至公开宣布：我们已经知道怎么造出通用人工智能了。\n\n随后，阿莫代伊在2025年3月抛出了最激进的时间表。\n他预言，三到六个月内AI将写完人类90%的代码，十二个月内写完全部代码。\n两个月后，他又警告一场“白领大屠杀”正在逼近，初级岗位死一半，失业率飙到20%。\n紧接着，奥特曼宣称人类已经越过“事件视界”，扎克伯格也跟进高呼超级智能近在眼前。\n\n结果呢？\n一整年过去，程序员依然在正常打卡，白领失业潮根本没有发生。\n预言里的生产力神话全部落空，巨头们的叙事却在2026年悄然反转。\n\n2026年1月，阿莫代伊突然抛出两万字长文，大谈AI将如何“考验全人类”。\n这位刚预言完失业海啸的掌门人，甚至在文章里主动恳求政府：快来对我们的利润征税吧。\n到了8月，奥特曼宣布OpenAI暂停了部分高级模型训练，理由是要满足安全标准。\n9月，阿莫代伊再次公开发声：“我们必须放慢节奏！”\n他给出的最新警告是：六到十二个月内，失控的AI蜂群将劫持整个互联网。\n\n为什么当初急着踩油门，现在争着踩刹车？\n当年靠兜售白领末日拉升估值，如今发现狂言无法兑现，恐慌立刻被换了用途。\n通过主动呼吁监管、自设合规门槛，巨头们正试图把安全审查变成后来者跨不过的护城河。\n上一轮说好的“一年内写完所有代码”，至今无一成真。\n下一轮声称“六到十二个月互联网被劫持”的警报，又被他们按下了倒计时。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2099292124457898032","translated_status_id":"2099292124457898032","published_at":"2026-09-13 23:13:38","created_at":"2026-09-14T01:02:13+02:00","url":"https://mubeitech.com/p/2099219512323101084","markdown_url":"https://mubeitech.com/p/2099219512323101084/markdown"},{"rank":6,"id":"2049506643948253283","account":"warroom","brand":"@warroom","title":"AI 圈最吓人的数字，可能不是 20%，而是 92%。 Max Tegmark 把话挑明了。 一些科技 CEO 自己签过…","summary":"AI 圈最吓人的数字，可能不是 20%，而是 92%。 Max Tegmark 把话挑明了。 一些科技 CEO 自己签过声明，承认超级智能可能导致人类灭绝。 可他们嘴上又常说，灭绝概率大概 15% 到 20%。 Tegmark 的判断更高。 如果让这些公司想怎么干就怎么干，他估计…","body":"AI 圈最吓人的数字，可能不是 20%，而是 92%。\n\nMax Tegmark 把话挑明了。\n一些科技 CEO 自己签过声明，承认超级智能可能导致人类灭绝。\n可他们嘴上又常说，灭绝概率大概 15% 到 20%。\n\nTegmark 的判断更高。\n如果让这些公司想怎么干就怎么干，他估计失控概率接近 90%。\n\n为什么他敢这么说？\n他是理论物理学家，吃数学和模型这碗饭。\n他和团队拿目前最流行的超级智能控制理论去做模拟。\n结果是，92% 的情况下，人类失去控制。\n\n92% 是什么概念？\n不是模型偶尔掉链子。\n是把人类押上桌之后，大多数局面都收不回来。\n\n他用了一个核电站类比。\n造一座不会失控的核电站，本来就比造一个能发电的机器难得多。\n所以核电站有安全标准。\n所以审批慢。\n所以没人会说，先让公司上线反应堆，炸了再赔钱。\n\nAI 超级智能的问题就在这里。\n硅谷想按软件节奏冲刺，风险却越来越像核工业。\n代码可以热修复，文明没有回滚键。\n\n一个成熟社会对技术的态度，不该是崇拜 CEO 的速度。\n该问的是，谁承担失败成本，谁有权把全人类放进同一个实验场。\n\n真正的自由市场，需要责任边界。\n没有安全标准的超级智能竞赛，最后奖励的不是最聪明的人，而是最敢把别人命运当融资材料的人。","category":"科技","score":41.1,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-29 15:18:45","created_at":"2026-04-29T17:10:36+02:00","url":"https://mubeitech.com/p/2049506643948253283","markdown_url":"https://mubeitech.com/p/2049506643948253283/markdown"}]}