{"source":{"id":"2046016440529248431","title":"Transformer根本不是AI的终局。 这是英伟达AI研究副总裁Sanja Fidler给出的断言。 这位掌管英伟达…","url":"https://mubeitech.com/p/2046016440529248431"},"method":"semantic-similarity","count":5,"items":[{"rank":1,"id":"2070628394342195460","account":"mubei","brand":"@mubei","title":"“宣称 AI 将让智力变得免费，是极其不负责任的。” 写出 ImageNet、开启上一轮视觉革命的 AI 教母 Fei-…","summary":"“宣称 AI 将让智力变得免费，是极其不负责任的。” 写出 ImageNet、开启上一轮视觉革命的 AI 教母 Fei-Fei Li 公开泼了盆冷水。 人类的智力太深邃了。 语言只是其中的冰山一角。 用文字你可以教人写代码、做推论，但你没办法用文字教会一台机器开车，更没法用文字教…","body":"“宣称 AI 将让智力变得免费，是极其不负责任的。”\n写出 ImageNet、开启上一轮视觉革命的 AI 教母 Fei-Fei Li 公开泼了盆冷水。\n\n人类的智力太深邃了。\n语言只是其中的冰山一角。\n用文字你可以教人写代码、做推论，但你没办法用文字教会一台机器开车，更没法用文字教会它投篮。\n这中间存在着巨大的“信息损耗”。\n只靠会聊天的语言模型，AI 永远无法真正理解这个复杂的物理世界。\n\n所以，她直接攒了一个估值超过 10 亿美元的新局，去死磕当前模型根本搞不定的方向：\n空间智能（Spatial Intelligence）。\n\n当年，她用 ImageNet 给模型喂出了视觉革命；\n现在，她要把战场从“会说话的黑盒子”，带向“能理解物理规律的世界模型”。\nAI 革命远没有结束，它才刚到 V1 版本。\n\n工业革命没有消灭劳动力，它让劳动变得更高效。\nAI 也不会让智力免费，它要把“下一种稀缺”狠狠地暴露出来。\n当文字和代码变得越来越便宜，真正高门槛的稀缺资产，将变成那些能感知空间、理解物理规则、并在现实中做出精准动作的实体系统。\n\n别被廉价的口号蒙蔽了。\n当潮水退去，真正的科技护城河，永远在硬碰硬 of 物理世界里。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2070636570558771281","translated_status_id":"2070636570558771281","published_at":"2026-06-26 22:04:26","created_at":"2026-06-27T00:00:54+02:00","url":"https://mubeitech.com/p/2070628394342195460","markdown_url":"https://mubeitech.com/p/2070628394342195460/markdown"},{"rank":2,"id":"2048471368274948435","account":"mubei","brand":"@mubei","title":"大语言模型走到死胡同了？ DeepMind CEO Demis Hassabis 的回答很干脆：绝对没有。 他在 20V…","summary":"大语言模型走到死胡同了？ DeepMind CEO Demis Hassabis 的回答很干脆：绝对没有。 他在 20VC 播客里明确反驳了 Yann LeCun 的看衰论调。 基础模型的成功有目共睹。 Scaling laws 的红利远远没到天花板。 庞大算力喂出来的模型能力不…","body":"大语言模型走到死胡同了？\nDeepMind CEO Demis Hassabis 的回答很干脆：绝对没有。\n\n他在 20VC 播客里明确反驳了 Yann LeCun 的看衰论调。\n基础模型的成功有目共睹。\nScaling laws 的红利远远没到天花板。\n庞大算力喂出来的模型能力不会凭空消失。\n\n光靠现有的 LLM 就能堆出超级智能吗？\nHassabis 给出了一个具体数字：50%。\n有一半的概率，通向 AGI 还缺一项关键突破。\n这块缺失的拼图很可能就是“世界模型”。\n\n未来的 AGI 架构已经逐渐清晰。\n现有的基础模型绝不会被淘汰下桌。\n未来的超级智能系统，会直接搭建在这些大模型的地基之上。\n\n路线没走偏。\n只是拼图还没凑齐。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-26 22:41:03","created_at":"2026-04-27T00:38:20.841344","url":"https://mubeitech.com/p/2048471368274948435","markdown_url":"https://mubeitech.com/p/2048471368274948435/markdown"},{"rank":3,"id":"mb-20260830-a41049","account":"mubei","brand":"","title":"把一个前沿大模型的调用成本砍掉 80%，不是打价格战，也不是买到了更便宜的显卡","summary":"把一个前沿大模型的调用成本砍掉 80%，不是打价格战，也不是买到了更便宜的显卡","body":"把一个前沿大模型的调用成本砍掉 80%，不是打价格战，也不是买到了更便宜的显卡。\n是一台更强的模型，在生产环境里直接重写了它的底层 GPU 算子。\n为什么真实的自我进化，不是科幻小说里的超级大脑空转哲学，是它直接接管了人类工程师的编译器？\n这台机器叫架构级递归自我提升。\n过去优化一套大模型的推理栈，需要顶尖工程师对着硬件手册，花上几周时间一行一行调校 CUDA 内核。\n稍微改错一个显存地址，整个生产集群就会当场瘫痪。\n但在 OpenAI 内部，最前沿的 Sol 模型开始直接观测运行中的 Luna。\n它在毫秒级的运行轨迹里寻找指令冗余，自主重构数据流，把 GPU 的硬件利用率压榨到极限。\n短短三个月，整个推理速度提升了 60%，运行成本直接跳水 80%。\n最顶尖的智能，直接变成了下一代模型的算力折扣。\n这推导出了一条极其残酷的工业规律：六个月前沿通缩。\n今天坐在算力顶峰、调用一次贵得令人咋舌的前沿模型，六个月之后，就会被这套自我优化机制压缩成廉价甚至免费的基础设施。\nReplit 已经在免费模式里分发 Luna。\n为什么这种自我优化的飞轮，只有极少数团队转得起来？\n早在 ChatGPT 改变世界前整整一年，DeepMind 内部就已经跑着一个几乎一模一样的对话模型 LMChat。\n创意密度极高，模型已经能生成连贯且有用的文本，但它被死死锁在实验室里不敢发布。\n因为传统科技巨头把前沿技术的不稳定，当成了必须层层审批的合规风险与声誉坏账。\nOpenAI 走了一条完全相反的路。\nCodex 负责人 Tibo Sottiaux 桌上有一个实体的重置按钮。\n系统挂了、体验不达预期，产品负责人不需要找财务部开会，不需要找市场部审批，随时按下去，直接把使用额度全额赔给开发者。\n零摩擦的产品补偿，把本该招致愤怒的技术故障，变成了数千万开发者在生产环境里为模型纠错的默契。\n真实世界的海量代码反馈喂给模型，最强的模型反手重构底层的算力基础设施，更便宜高效的算力再吸引更庞大的调用。\n这三个齿轮咬合在一起，才把大模型推向了极速时代。\n当 Token 生成速度拔高 10 到 14 倍，当计算的延迟逼近人类大脑的单线程心流，单机笔记本电脑的性能上限被瞬间击穿。\n算力的瓶颈不再是模型生成得有多慢，变成了网络请求和工具调用的物理开销。\n真正的技术代差，从来不在谁在公关稿里宣布了多大的模型参数。\n在于谁先让模型学会了优化自己的身体，然后把省下来的每一个美分，以最快的速度变成砸向对手的白菜价智能。\n只有当智能开始自举，算力才会真正像水和电一样，漫进每一个普通人的生活里。","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-08-30 21:53:54","created_at":"2026-08-30 21:53:54","url":"https://mubeitech.com/p/mb-20260830-a41049","markdown_url":"https://mubeitech.com/p/mb-20260830-a41049/markdown"},{"rank":4,"id":"2045484064585728489","account":"mubei","brand":"@mubei","title":"Andrej Karpathy揭开了一个反直觉的行业真相。 现在的AI模型动辄上万亿参数，根本不需要这么大的“脑容量”。…","summary":"Andrej Karpathy揭开了一个反直觉的行业真相。 现在的AI模型动辄上万亿参数，根本不需要这么大的“脑容量”。 撑大体积的罪魁祸首，是劣质的训练数据。 你以为模型每天在贪婪地阅读《华尔街日报》和严谨的学术文章？ 现实极其惨淡。 前沿实验室随机抽查的预训练语料，全是残破的…","body":"Andrej Karpathy揭开了一个反直觉的行业真相。\n现在的AI模型动辄上万亿参数，根本不需要这么大的“脑容量”。\n撑大体积的罪魁祸首，是劣质的训练数据。\n\n你以为模型每天在贪婪地阅读《华尔街日报》和严谨的学术文章？\n现实极其惨淡。\n前沿实验室随机抽查的预训练语料，全是残破的HTML代码、股票代码和杂乱无章的乱码。\n人类积累的高质量文本在互联网海洋里极其稀缺。\n\n巨大的信息噪音带来了灾难性的压缩效率。\nLlama 3对训练数据的压缩率低到只有0.07比特每token。\n这意味着模型对自己啃过的大部分内容，仅仅留存了极度模糊的印象。\n庞大的万亿参数，绝大部分并没有参与“认知推理”。\n它们变成了臃肿的记忆库，被迫死记硬背互联网倾泻而下的赛博垃圾。\n\nKarpathy开出的解法极其干脆。\n彻底分离思考与记忆。\n剥离百科全书式的死记硬背，只留下纯粹负责推理和解题的算法逻辑。\n这就是真正的“认知核心”。\n一旦遇到事实盲区，让模型主动去调用外部数据库。\n\n如果只喂极其干净的高质量数据，这个“认知核心”需要多大体积？\n十亿参数。\n回看今天的主流旗舰模型，参数规模在2000亿到1.8万亿之间摇摆。\n超高比例的算力都在替数据的脏乱差买单。\n\n现实数据正在印证这条新路径。\n仅仅两千亿参数的GPT-4o，早就全方位碾压了1.8万亿参数的初代GPT-4。\n过去两年间，跑通GPT-3.5性能的推理成本暴降了足足280倍。\n推动这一切的核心引擎，全部来自更小、更干净、更精巧的模型架构。\n\n当前挡在AI面前的那堵墙，早就不是算力。\n算力匮乏不过是替低劣数据背锅的挡箭牌。\n下一轮大洗牌的唯一筹码是高纯度的数据源。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2045726431263515003","translated_status_id":"2045726431263515003","published_at":"2026-04-19 04:36:24","created_at":"2026-04-19T06:31:10.029346","url":"https://mubeitech.com/p/2045484064585728489","markdown_url":"https://mubeitech.com/p/2045484064585728489/markdown"},{"rank":5,"id":"2055130148614050264","account":"mubei","brand":"@mubei","title":"英伟达刚用 4-bit 精度，跑完了一个 120 亿参数大模型的预训练。 喂进去的数据量是 10 万亿 token。 以…","summary":"英伟达刚用 4-bit 精度，跑完了一个 120 亿参数大模型的预训练。 喂进去的数据量是 10 万亿 token。 以前硅谷大厂卷模型，训练精度底线死死卡在 8-bit 甚至 16-bit。 谁都知道把数据精度再砍一半能省下海量显存。 但没人敢在预训练阶段碰 4-bit。 只要…","body":"英伟达刚用 4-bit 精度，跑完了一个 120 亿参数大模型的预训练。\n喂进去的数据量是 10 万亿 token。\n\n以前硅谷大厂卷模型，训练精度底线死死卡在 8-bit 甚至 16-bit。\n谁都知道把数据精度再砍一半能省下海量显存。\n但没人敢在预训练阶段碰 4-bit。\n只要精度压到这个级别，模型训练就会极度不稳定，直接崩溃不收敛。\n\n英伟达这次交了底牌，发了一套基于 NVFP4 格式的训练法。\n他们把解决路径拆成了具体动作。\n用随机阿达马变换把区块异常值按住。\n上二维量化控制前向和反向传播的误差。\n再配合随机舍入算法去抓取无偏梯度。\n\n这套操作做完，长程训练稳住了。\n实测跑出来的 MMLU-pro 测试成绩是 62.58%。\n作为对照，用传统 8-bit 精度跑出的基线成绩是 62.62%。\n两者只差了不到 0.05 个百分点。\n\n精度少了一半，准确率几乎毫发无损。\n这意味着同样的硬件，显存消耗直接砍半，算力性能翻了两到三倍。\n英伟达已经把核心代码在 Transformer Engine 里加了支持。\n下一代万亿参数模型的算力入场券，就这么被强行打了个对折。","category":"科技","score":83.3,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-15 06:24:35","created_at":"2026-05-15T05:36:24+02:00","url":"https://mubeitech.com/p/2055130148614050264","markdown_url":"https://mubeitech.com/p/2055130148614050264/markdown"}]}