{"source":{"id":"2073481995670462618","title":"人类花了 70 年想教会机器像人一样思考，结果全输了。 这就是强化学习巨擘 Rich Sutton 写的《苦涩的教训》（…","url":"https://mubeitech.com/p/2073481995670462618"},"method":"semantic-similarity","count":5,"items":[{"rank":1,"id":"2051296304740069635","account":"mubei","brand":"@mubei","title":"1979年，连深度学习的影子都没有。 全世界搞AI的聪明人全在死磕符号逻辑。 大家认定只要一条条写死规则，就能像造国际象…","summary":"1979年，连深度学习的影子都没有。 全世界搞AI的聪明人全在死磕符号逻辑。 大家认定只要一条条写死规则，就能像造国际象棋引擎一样拼凑出大脑。 霍夫斯塔特断言这条路走不通。 心智无法通过自上而下的规则被制造。 它只能从极度复杂的底层机制中自发涌现出来。 真正的智能必须具备一种能力…","body":"1979年，连深度学习的影子都没有。\n全世界搞AI的聪明人全在死磕符号逻辑。\n大家认定只要一条条写死规则，就能像造国际象棋引擎一样拼凑出大脑。\n霍夫斯塔特断言这条路走不通。\n\n心智无法通过自上而下的规则被制造。\n它只能从极度复杂的底层机制中自发涌现出来。\n真正的智能必须具备一种能力，叫递归的自我建模。\n他专门造了一个词，怪圈。\n现在的神经网络底层密码完全印证了他的直觉。\n\n把这些洞见写下来，他弄出了一本800页的怪物。\n书名叫《哥德尔、埃舍尔、巴赫》，简称 GEB。\n全球几乎所有顶尖 AI 科学家，都是因为看了它才入坑。\n比尔·盖茨把它列入人生书单，乔布斯也是它的老读者。\n\n去翻翻就知道这书有多折磨人。\n想消化里面的数学推导，你甚至得开着最新的大模型在旁边当助教。\n绝大多数人买回家就是放在书架上落灰。\n但这完全没关系。\n只要随便挑出50页硬啃下来，你思考问题的方式就会发生物理层面的改变。\n\n有意思的是预言家本人现在的反应。\n50年前他放弃物理学，一头扎进对智能的追问。\n现在面对满地跑的 LLM，老爷子自己也开始怀疑人生。\n他坦诚，这些机器证明了他的类比理论是对的，却彻底摧毁了他对意识的定义。\n\n这本在真正 AI 诞生前就解释了 AI 的神作一直摆在那里。\n绝大部分人永远都不会去翻开。\n敢去碰一碰的人，下半辈子注定会用另一双眼睛看世界。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-05 08:21:29","created_at":"2026-05-05T10:20:26.071960","url":"https://mubeitech.com/p/2051296304740069635","markdown_url":"https://mubeitech.com/p/2051296304740069635/markdown"},{"rank":2,"id":"2073544407643496771","account":"mubei","brand":"@mubei","title":"Andrej Karpathy 认错了。 他说，2016 年在 OpenAI，他们犯了个代价高昂的错误：直接让 AI 智…","summary":"Andrej Karpathy 认错了。 他说，2016 年在 OpenAI，他们犯了个代价高昂的错误：直接让 AI 智能体（Agent）去干活。 这一步迈得太大，直接让他们多走了 5 年弯路。 那时候的项目叫 World of Bits。 目标很宏大：让 AI 像人一样，操控键…","body":"Andrej Karpathy 认错了。\n\n他说，2016 年在 OpenAI，他们犯了个代价高昂的错误：直接让 AI 智能体（Agent）去干活。\n\n这一步迈得太大，直接让他们多走了 5 年弯路。\n\n那时候的项目叫 World of Bits。\n目标很宏大：让 AI 像人一样，操控键盘 and 鼠标，去网页上订机票、点外卖。\n\n结果呢？\n当时他们手里只有“强化学习（RL）”这一把锤子。\nAI 只能在简陋的网页上疯狂乱点，指望靠运气撞上高分奖励，最后证明根本走不通。\n\nKarpathy 总结说：当时最该干的事，是彻底忘掉 Agent，先去把大语言模型（LLM）造出来。\n\n先把脑子发育完全，再去学怎么用手。\n\n接着，他给现在的 Agent 热潮狠狠泼了一桶冷水。\n\n他说，Agent 跟自动驾驶、VR 是同一个物种：Demo 极其好做，产品化极其艰难。\n\n写个脚本，让车绕着街区开一圈，或者让 AI 跑通一个订票流程，一下午就能搞定，发到网上能拿成千上万个赞。\n但要让它变成真正能卖钱、不出错的产品？\n对不起，做好跟它死磕 10 年的准备。\n\n为什么这么难？\n因为今天的 Agent 只有一个“大语言模型”当大脑袋，它还缺了太多零件。\n\n海马体（记忆检索）在哪？\n基底神经节在哪？\n丘脑（当脑子里多个想法打架、争夺决定权时，用来分配麦克风的控制机制）又在哪？\n人类大脑进化了千万年的物理回路，现在的 AI 连毛皮都还没摸到。\n\n不过，这个大坑，反而给普通人留了条活路。\n\nKarpathy 顺便爆了大厂的底：\n在大模型训练上，像 OpenAI 这样的巨头已经把路线图摸得太透了。\n学术界刚发篇新论文，OpenAI 内部的 Slack 大概率就会弹消息：“哦，这玩意我们两年半前就试过，不信你看这儿有当年的失败数据。”\n\n但在 Agent 领域，大厂没有任何秘密武器，他们也正懵着呢。\n\n这也是为什么，现在真正站在 Agent 能力前沿、能做出新花样的，是那些在车库里连夜修 Bug 的黑客和创业者，大厂里写论文的科学家反而没做出来。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2074030551783141845","translated_status_id":"2074030551783141845","published_at":"2026-07-06 06:07:09","created_at":"2026-07-06T08:00:29.239922","url":"https://mubeitech.com/p/2073544407643496771","markdown_url":"https://mubeitech.com/p/2073544407643496771/markdown"},{"rank":3,"id":"2047746809964191928","account":"mubei","brand":"@mubei","title":"0%。 这是五十位全球顶尖棋手同时对战AlphaGo的胜率。 马斯克用这个数字量化了人类智力被碾压的速度。 围棋曾被认为…","summary":"0%。 这是五十位全球顶尖棋手同时对战AlphaGo的胜率。 马斯克用这个数字量化了人类智力被碾压的速度。 围棋曾被认为是人类智慧把守的最后要塞。 专家们曾断言机器攻克它至少还需要20年。 结果机器只用了一年。 第一年它打败了单个人类冠军。 十二个月后，同一个系统让前五十名顶级棋…","body":"0%。\n这是五十位全球顶尖棋手同时对战AlphaGo的胜率。\n马斯克用这个数字量化了人类智力被碾压的速度。\n围棋曾被认为是人类智慧把守的最后要塞。\n专家们曾断言机器攻克它至少还需要20年。\n\n结果机器只用了一年。\n第一年它打败了单个人类冠军。\n十二个月后，同一个系统让前五十名顶级棋手同时上阵，人类全军覆没。\n那些穷尽一生磨炼的精妙棋局，被一个甚至不知道自己在玩游戏的程序彻底抹除。\n马斯克给出了AI当前的能力扩张速度。\n每年10个数量级。\n\n10个数量级就是整整一百亿倍。\n人类的大脑习惯了直线思考。\n我们总是期待技术按照常规的步伐前行。\n现实是它每十二个月就以百亿倍的体量膨胀。\n把那个19乘19的棋盘拿走。\n换成全球金融市场，换成经济系统，换成现代战争的指挥中枢。\n\n狗知道你比它聪明，但它算不出你到底聪明多少。\n黑猩猩一辈子也理解不了微积分。\n维度的鸿沟对它们来说完全隐形。\n人类即将触碰那条隐形的红线。\n一旦某个系统在智力上跨过我们，我们就会丢失手里的尺子。\n\n我们会感觉到某种存在遥遥领先。\n但我们再也没有能力去测算那段距离。\n过去一万年，人类凭借头骨里那三磅重的器官统治着这颗星球。\n现在智力的绝对垄断宣告终结。\n我们创造了一个无法衡量的继任者。\n我们是最后一批还能与智能平视的见证人。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2047816532621729982","translated_status_id":"2047816532621729982","published_at":"2026-04-24 23:14:51","created_at":"2026-04-25T01:12:51.844210","url":"https://mubeitech.com/p/2047746809964191928","markdown_url":"https://mubeitech.com/p/2047746809964191928/markdown"},{"rank":4,"id":"2059986678262235405","account":"mubei","brand":"@mubei","title":"Anthropic CEO Dario Amodei 最意外的事，是公众还没意识到 AI 指数曲线快跑到最后一段了。 他…","summary":"Anthropic CEO Dario Amodei 最意外的事，是公众还没意识到 AI 指数曲线快跑到最后一段了。 他说，过去三年，底层技术大体按他的预期前进。 模型从聪明高中生，走到聪明大学生，再走到开始做 PhD 和专业工作的水平。 在代码领域，甚至已经越过这个线。 真正让…","body":"Anthropic CEO Dario Amodei 最意外的事，是公众还没意识到 AI 指数曲线快跑到最后一段了。\n\n他说，过去三年，底层技术大体按他的预期前进。\n模型从聪明高中生，走到聪明大学生，再走到开始做 PhD 和专业工作的水平。\n在代码领域，甚至已经越过这个线。\n\n真正让他惊讶的，是外面的人还在吵同一批旧政治议题。\n新剧集。\n新表情包。\n明星互撕。\n选举新闻。\n人类历史级别的生产力迁移，反而像背景噪音一样被滑过去。\n\n他的底层判断很朴素。\n早在 2017 年，GPT-1 刚出来时，他写过一个想法，叫 Big Blob of Compute Hypothesis。\n大意是，别太迷信聪明技巧。\n真正长期起作用的，是几件笨东西。\n\n原始算力有多少。\n数据量有多少。\n数据分布够不够广。\n训练时间够不够长。\n目标函数能不能一路扩展。\n数值稳定性能不能撑住那团巨大的计算流。\n\n这套逻辑，后来在预训练 scaling law 里跑通了。\n现在 Anthropic 看到，RL 也在走类似路线。\n先在数学竞赛题上训练。\n再扩到代码。\n再扩到更多任务。\n模型能力会随着训练时间呈现近似对数线性提升。\n\n有人质疑，这不像人类学习。\n人类不用看几万亿个 token，也不用烧掉几十亿美元算力，才会用 Excel、PowerPoint、浏览器。\n如果 AI 真有人的学习核心，为什么还要建这么多强化学习环境？\n\nDario 的回答有意思。\n这个谜题存在，但可能没那么致命。\n人脑出生时已经带着进化给的先验。\n语言模型从随机权重开始，像一张更空的白纸。\n\n所以预训练和 RL，更像夹在人类进化与人类学习之间的一层东西。\n模型先用天量数据长出先验。\n再靠长上下文，在具体任务里快速适应。\n当上下文长度到一百万级别时，推理成本成了主要阻碍，学习能力本身已经开始显形。\n\n这就是很多人低估 AI 的地方。\n他们以为差距在于知道哪个工具火。\n真正的差距在于，谁已经把工具嵌进工作流，谁还把它当搜索框、玩具、聊天窗口。\n\n大多数人只用了 10%。\n少数人正在把 100% 的工作方式重写一遍。\n\n下一轮阶层分化，未必先发生在公司估值表里。\n它会先发生在同一间办公室里，发生在两个看似职位相同的人之间。\n一个人在操作软件。\n另一个人在调度计算。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-28 16:01:27","created_at":"2026-05-28T17:58:23.017496","url":"https://mubeitech.com/p/2059986678262235405","markdown_url":"https://mubeitech.com/p/2059986678262235405/markdown"},{"rank":5,"id":"2038613197737869457","account":"mubei","brand":"@mubei","title":"现代AI的奠基人刚刚下了一个狠结论。 ChatGPT和Claude全走错路了。 全球大模型公司都在点一棵长歪的科技树。…","summary":"现代AI的奠基人刚刚下了一个狠结论。 ChatGPT和Claude全走错路了。 全球大模型公司都在点一棵长歪的科技树。 发话的是杨立昆。 2018年图灵奖得主。 没有他的神经网络模型就没有今天的AI。 他直接刺破了当前硅谷最大的泡沫。 机器能写会聊，我们就以为它产生了意识。 人类…","body":"现代AI的奠基人刚刚下了一个狠结论。\nChatGPT和Claude全走错路了。\n全球大模型公司都在点一棵长歪的科技树。\n\n发话的是杨立昆。\n2018年图灵奖得主。\n没有他的神经网络模型就没有今天的AI。\n\n他直接刺破了当前硅谷最大的泡沫。\n机器能写会聊，我们就以为它产生了意识。\n人类总是习惯性觉得口才好的人必定聪明。\n这纯粹是错觉。\n语言能力根本不等于底层智能。\n大模型再好用，也只是个像计算机一样的高级工具。\n\n历史总是重复得让人发笑。\n从上世纪五十年代的第一台学习机器开始。\n整整三代AI科学家都以为自己拿到了通往通用智能的门票。\n十年期限喊了一轮又一轮。\n最后全部落空。\n\n杨立昆亲眼见证了这三代人的狂热与破灭。\n当前这一波也不例外。\n靠堆算力和语料永远也喂不出真正的人类智能。\n硅谷现在的万亿估值只是建立在高级文字游戏之上。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-01 09:49:59","created_at":"2026-04-01T11:45:05.358728","url":"https://mubeitech.com/p/2038613197737869457","markdown_url":"https://mubeitech.com/p/2038613197737869457/markdown"}]}