{"source":{"id":"2055130148614050264","title":"英伟达刚用 4-bit 精度，跑完了一个 120 亿参数大模型的预训练。 喂进去的数据量是 10 万亿 token。 以…","url":"https://mubeitech.com/p/2055130148614050264"},"method":"semantic-similarity","count":5,"items":[{"rank":1,"id":"16965160","account":"mubei","brand":"@mubei","title":"OpenAI 自己造的芯片，把英伟达打懵了。 功耗只有英伟达旗舰的一半，极限能效却拉出了上百倍差距。 这是 OpenAI…","summary":"OpenAI 自己造的芯片，把英伟达打懵了。 功耗只有英伟达旗舰的一半，极限能效却拉出了上百倍差距。 这是 OpenAI 首次公布自研推理芯片 Jalapeño 的实测战绩。 对比的对象不是老架构，而是英伟达当家旗舰 GB200 与 GB300。 两边差距有多夸张？ 单看功耗，J…","body":"OpenAI 自己造的芯片，把英伟达打懵了。\n\n功耗只有英伟达旗舰的一半，极限能效却拉出了上百倍差距。\n这是 OpenAI 首次公布自研推理芯片 Jalapeño 的实测战绩。\n对比的对象不是老架构，而是英伟达当家旗舰 GB200 与 GB300。\n\n两边差距有多夸张？\n单看功耗，Jalapeño 封装功耗 700 瓦，GB300 则是 1400 瓦。\n刚一通电，功耗先砍掉一半。\n\n再看跑大模型的真实能效。\n跑 6700 亿参数的 DeepSeek R1，在普通峰值下，Jalapeño 每千瓦吞吐是 GB300 的 1.7 倍。\n可一旦把用户需要的生成速度拉高，差距瞬间拉开。\n当速度要求达到每秒 169 个词时，GB300 的能效跌到 118，Jalapeño 依然能跑出 12258。\n能效整整差了 104 倍！\n\n跑开源的 120B 模型也是一样。\n高交互速度下，Jalapeño 的能效是 GB200 的 53.7 倍。\n跑万亿参数的 Kimi K2.5，端到端延迟降低了 2.2 倍，生成速度一路顶到每秒近 700 词。\n\n为什么全能的通用 GPU 会被拉开这么大距离？\n英伟达要兼顾训练和各类通用计算，芯片上堆了大量通用冗余。\nOpenAI 的专用芯片只干一件事：把所有晶体管和供电，死死焊在推理访存和生成上。\n\n大模型规模化落地，核心死穴就是每瓦功耗和电费成本。\n自研定制芯片把特定模型的推理能效拉高上百倍，直接砸穿了成本底线。\n英伟达靠通用 GPU 垄断推理市场的格局，正在被巨头们亲手撕开。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2092404347732660632","translated_status_id":"2092404347732660632","published_at":"2026-08-25 22:39:59","created_at":"2026-08-26T00:19:05+02:00","url":"https://mubeitech.com/p/16965160","markdown_url":"https://mubeitech.com/p/16965160/markdown"},{"rank":2,"id":"2091439473603035444","account":"mubei","brand":"@mubei","title":"英伟达要砸 60 亿美元，造一个全球最顶级的开源大模型。 一个卖芯片的硬件巨头，疯了吗？ 《华尔街日报》爆出猛料。 英伟…","summary":"英伟达要砸 60 亿美元，造一个全球最顶级的开源大模型。 一个卖芯片的硬件巨头，疯了吗？ 《华尔街日报》爆出猛料。 英伟达拿下了人工智能初创公司 Poolside 的技术授权。 他们把对方 100 多名核心员工，直接并入了 Nemotron 开源模型团队。 紧接着，又按 120…","body":"英伟达要砸 60 亿美元，造一个全球最顶级的开源大模型。\n一个卖芯片的硬件巨头，疯了吗？\n\n《华尔街日报》爆出猛料。\n英伟达拿下了人工智能初创公司 Poolside 的技术授权。\n他们把对方 100 多名核心员工，直接并入了 Nemotron 开源模型团队。\n紧接着，又按 120 亿美元的投前估值，给 Poolside 塞了 10 亿美元投资。\n\n这一仗要打谁？\n向西，直插 OpenAI 和 Anthropic 这些美国闭源巨头的腹地。\n向东，正面迎战 DeepSeek 和 Kimi 这些来自中共国的开源主力。\n\n黄仁勋这盘棋，到底在图什么？\n闭源巨头想靠私有模型建立软件生态，摆脱硬件约束。\n英伟达就直接砸重金把开源模型拉到最顶峰，把全行业的推理门槛彻底踏平。\n当顶尖模型的软件溢价被击穿，大家能拼的，依然只剩下底层算力。\n\n无论大模型怎么开源，跑在最底层的，永远都是英伟达的芯片。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2091759514190053818","translated_status_id":"2091759514190053818","published_at":"2026-08-24 05:26:49","created_at":"2026-08-24T07:16:10+02:00","url":"https://mubeitech.com/p/2091439473603035444","markdown_url":"https://mubeitech.com/p/2091439473603035444/markdown"},{"rank":3,"id":"raw_da9282e1e02b3197","account":"mubei","brand":"@mubei","title":"把四千多张芯片连成同一个大脑，最先顶不住的往往是机柜上的接头。 按照传统的机房布线方案，想让四千张顶级芯片无缝协同工作，…","summary":"把四千多张芯片连成同一个大脑，最先顶不住的往往是机柜上的接头。 按照传统的机房布线方案，想让四千张顶级芯片无缝协同工作，你得在机柜面板上密密麻麻插进四万八千个可插拔光模块。 光是伺候这几万个发热的小金属盒，每小时就要白白烧掉几百度电。 更让人头疼的是可靠性。 几万个光学元件塞进机…","body":"把四千多张芯片连成同一个大脑，最先顶不住的往往是机柜上的接头。\n按照传统的机房布线方案，想让四千张顶级芯片无缝协同工作，你得在机柜面板上密密麻麻插进四万八千个可插拔光模块。\n光是伺候这几万个发热的小金属盒，每小时就要白白烧掉几百度电。\n更让人头疼的是可靠性。\n几万个光学元件塞进机房，按照常规故障率推算，每隔几个小时就可能坏掉一个。\n但在大模型训练的世界里，只要有一根关键光纤掉线，四千张芯片就得全体停工。\n大家只能坐在那里，眼睁睁看着算力空转，等待系统排查、重启并重新加载数据。\n每天宝贵的时间，大半都浪费在停机和保存进度上了。\n\n既然这么麻烦，为什么非要把四千张甚至上万张芯片死死捆在一起？\n分散成一个个小集群慢慢算不行吗？\n不行。\n因为大模型的参数规模，已经一路狂飙到了万亿甚至十万亿级别。\n单张芯片哪怕性能再强，塞不下一整个模型，就必须把模型切碎，分摊到几千张卡上同时跑。\n这里面藏着一个非常现实的物理限制。\n受限于外部技术管制，国内代工厂无法获得最先进的极紫外光刻机（EUV）。\n单颗芯片在晶体管密度和原始计算性能上，客观上落后于英伟达最新的旗舰产品。\n单兵打不过，怎么办？\n那就只能靠兵团作战。\n如果单颗芯片的算力有差距，就用四千张、八千张，甚至一万五千张芯片组成庞大的集群，靠庞大的规模把总算力强行拉齐。\n\n但规模每扩大一倍，物理定律的惩罚就会猛烈一倍。\n这就是超大规模集群绕不开的物理死角：阿姆达尔定律与通信墙。\n当几千张芯片共同训练一个庞大模型时，芯片之间需要以极高的频率同步海量参数。\n这个时候，算力本身跑得飞快，数据在芯片之间来回传输的速度却成了致命瓶颈。\n如果在主板上用铜线传输信号，高频电信号只要跑出一两米，就会因为衰减而变成无法识别的噪音。\n跨机柜的长距离通信，必须把电信号转成光信号，通过光纤来传递。\n这就把整个系统重新推回了开头的死局：\n你必须插上整整四万八千个高功耗、易损坏的光模块。\n庞大的芯片集群，被通信线路硬生生卡住了脖子。\n\n这个死结到底该怎么解？\n在 2026 年 9 月的华为全联接大会上，华为副董事长兼轮值董事长汪涛公布了他们的工程拆招方案。\n他们拿出的核心武器叫 Atlas 960E 超节点。\n这台庞然大物把四千零九十六颗昇腾芯片紧密连接在一起，能够提供 8 EFLOPS 的 FP8 浮点算力。\n他们是怎么解决那四万八千个光模块的？\n做法非常激进：\n他们把笨重的独立光模块扔了，直接把激光光源和光学引擎贴到了芯片封装旁边。\n这就是业界前沿的近封装光学技术，英文缩写是 NPO。\n华为把自研的近封装光引擎命名为 Hi-ONE。\n过去高频电信号需要跑过漫长的电路板导线，再钻进机柜面板上的光模块；\n现在，芯片旁边的电路走线被压缩到了毫米级。\n电信号刚出芯片，一瞬间就被转换成光脉冲，顺着光纤直接发射出去。\n带来的改变非常直接。\n整套系统用五千五百个集成的 Hi-ONE 光引擎，完全替代了过去所需的四万八千个传统 800G 光模块。\n光是这一项改动，就为互联系统省下了超过 550 千瓦的功耗。\n更关键的是可靠性。\n几万个高故障率的可插拔接头消失了，整个超节点系统的可用度提升到了 99.8%。\n\n光有高速的光缆还不够，四千张芯片怎么才能像单台电脑那样顺畅调度？\n这就需要底层协议来配合了。\n华为拿出了自研的灵衢统一互联总线，英文叫 UnifiedBus。\n以往的机房里，不同服务器访问彼此的内存，需要跨越繁琐的网络协议层层封装与中转。\n而在灵衢总线的架构下，四千多颗处理器、大容量的高带宽内存和固态硬盘，被整合成了一套统一的内存编址空间。\n整整 1 PB 的高带宽内存被完全打通，芯片跨节点读取数据就像在本地读写一样顺畅。\n在更长远的规划里，华为甚至公布了包含 15488 颗处理器的 Atlas 960 超节点蓝图。\n那套系统规划了 34 PB/s 的互联带宽和 4460 TB 的庞大内存，目标直指十万亿参数的大模型训练。\n按照汪涛公布的节奏，用于训练的昇腾 960DT 提前到了 2027 年一季度发布，用于推理的 960PR 紧随其后。\n未来两年，还将按每年一代的节奏推出昇腾 970 和 980。\n\n他在演讲中还提出了一个概念：陶（τ）缩放定律。\n这套说法的逻辑很明确：既然在物理晶体管几何尺寸上很难继续缩小，那就通过架构创新、降低时延和能效优化，在时空尺度上换取性能翻倍。\n把这个技术词汇翻译成人话，意思其实非常清楚：\n依赖单个晶体管变小变快的传统摩尔定律，在外部管控下已经很难走通了。\n未来的破局路径，必须全面转向系统工程。\n单张芯片工艺受限，就靠自研总线打通内存；\n机柜连线功耗爆炸，就靠近封装光学强行压缩通信损耗。\n\n那么，这套庞大的系统工程，真的能直接反超英伟达吗？\n如果冷静地看，前方的工程挑战依然严峻。\n英伟达手里捏着台积电成熟的先进工艺，拥有极高的单卡计算效率；\n它背后的 NVLink 铜缆背板和全球数百万开发者构筑的 CUDA 软件生态，更是一道极难逾越的护城河。\n把一万五千颗芯片连成一个集群，设计蓝图是一回事，在现实中稳定跑起来是完全不同的另一回事。\n近封装光学的制造良率极难把控，只要一颗光引擎在封装时出现微小瑕疵，整块昂贵的主板可能就要报废。\n几千颗高功耗处理器密密麻麻挤在一起，液冷散热系统的任何一次微小渗漏，都会带来灾难性的后果。\n更不用说数万颗芯片协同训练时，底层编译器如果无法完美平衡任务分配，海量算力依然会在互相等待中白白流失。\n\n但这件事展现出了一种极其真实的工程韧性。\n当最顺手的工艺升级路线被切断时，工程师们没有停留在口头争论上。\n他们选择把现有的物理条件压榨到极限。\n既然单张芯片做不到最小，他们就去解决四万八千个接头的发热与损坏；\n既然无法获得最先进的光刻机，他们就用光学与先进互联把整个机房拼接成一颗巨大的超级芯片。\n算力竞赛的真正战线，早已从微米级的晶圆表面，蔓延到了挤满光纤与冷却液的机柜内部。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2102276138399613331","translated_status_id":"2102276138399613331","published_at":"2026-09-22 06:17:41","created_at":"2026-09-22T06:17:41.282847","url":"https://mubeitech.com/p/raw_da9282e1e02b3197","markdown_url":"https://mubeitech.com/p/raw_da9282e1e02b3197/markdown"},{"rank":4,"id":"2043052190982639797","account":"mubei","brand":"@mubei","title":"英伟达换一次半导体工艺，迁移三千个标准单元库曾经需要8个人干10个月。 现在单张GPU跑一夜就能搞定。 最终产出的功耗和…","summary":"英伟达换一次半导体工艺，迁移三千个标准单元库曾经需要8个人干10个月。 现在单张GPU跑一夜就能搞定。 最终产出的功耗和延迟数据，直接盖过人类工程师的图纸。 这家公司把过去三十年历代GPU的底层源码和绝密文档全盘喂给AI。 练出了一个专供内部的超级大脑ChipNeMo。 新手遇到…","body":"英伟达换一次半导体工艺，迁移三千个标准单元库曾经需要8个人干10个月。\n现在单张GPU跑一夜就能搞定。\n最终产出的功耗和延迟数据，直接盖过人类工程师的图纸。\n\n这家公司把过去三十年历代GPU的底层源码和绝密文档全盘喂给AI。\n练出了一个专供内部的超级大脑ChipNeMo。\n新手遇到不懂的底层原理直接找大模型连环追问。\n资深老手彻底从基础答疑里解放出来。\n连抓Bug、分析错误源头、给具体模块指派责任人的活，全由AI一手包办。\n\n进位先行链是一个从上世纪五十年代就被反复研究的底层难题。\n英伟达让强化学习程序像打街机游戏一样疯狂试错。\n它只要勉强满足时序底线，就把体积和功耗往死里压。\n最终系统吐出的架构图纸诡异至极。\n人类设计师根本画不出那种走线。\n测试台上的硬性指标硬生生比人工精调的方案高出30%。\n\n如今英伟达内部的AI群体已经在接管新架构的参数探索。\n首席科学家Bill Dally描绘了硬件制造的终局。\n开局甩给系统一句指令：去把下一代GPU设计出来。\n人类工程师直接去度假滑雪。\n几天后回来，拿着跑完验证流程的完美图纸找台积电流片。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2043630500820984119","translated_status_id":"2043630500820984119","published_at":"2026-04-13 09:10:37","created_at":"2026-04-13T10:24:46.914463","url":"https://mubeitech.com/p/2043052190982639797","markdown_url":"https://mubeitech.com/p/2043052190982639797/markdown"},{"rank":5,"id":"2054204402144350450","account":"mubei","brand":"@mubei","title":"英伟达GB200：算力收割机。 很多人以为Blackwell只是训练工具，其实它在推理端的表现才是真正的代际碾压。 面对…","summary":"英伟达GB200：算力收割机。 很多人以为Blackwell只是训练工具，其实它在推理端的表现才是真正的代际碾压。 面对2350亿参数的MoE模型，硬件架构已经进化到了“解耦”时代。 这种架构正让大模型的响应速度从“等待”变成“瞬发”。 看这张原理图，这就是算力的“流水线工程”。…","body":"英伟达GB200：算力收割机。\n\n很多人以为Blackwell只是训练工具，其实它在推理端的表现才是真正的代际碾压。\n面对2350亿参数的MoE模型，硬件架构已经进化到了“解耦”时代。\n这种架构正让大模型的响应速度从“等待”变成“瞬发”。\n\n看这张原理图，这就是算力的“流水线工程”。\n传统的推理让Prefill和Decode挤在一起，互相抢夺宝贵的计算资源。\n而GB200利用NVL72机架，把这两个过程在硬件层面彻底剥离。\n\n左边是专门的Prefiller节点，负责消化输入；右边是Decoder，专心输出内容。\n连接它们的不是普通网线，而是第五代NVLink和InfiniBand。\n72颗GPU通过NVLink P2P连成一体，像一颗巨大的处理器在同步呼吸。\n\n当全球都在追逐算法时，美国的技术底座已经完成了对算力的重新分配。\n不管算法来自哪里，没有这种万亿级的硬件生态支撑，一切智能都是低效的泡沫。\nAI的下半场不再是单纯的堆料，而是属于Blackwell这种极致的工程解耦。","category":"科技","score":79.6,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-12 16:49:32","created_at":"2026-05-12T16:17:49+02:00","url":"https://mubeitech.com/p/2054204402144350450","markdown_url":"https://mubeitech.com/p/2054204402144350450/markdown"}]}