{"source":{"id":"2054204402144350450","title":"英伟达GB200：算力收割机。 很多人以为Blackwell只是训练工具，其实它在推理端的表现才是真正的代际碾压。 面对…","url":"https://mubeitech.com/p/2054204402144350450"},"method":"semantic-similarity","count":4,"items":[{"rank":1,"id":"mb-20260831-98330a","account":"mubei","brand":"","title":"一家做大模型的软件公司，用 16 个月做出来的一块自研芯片，在推理能效上把 Nvidia 最强的 Blackwell 超","summary":"一家做大模型的软件公司，用 16 个月做出来的一块自研芯片，在推理能效上把 Nvidia 最强的 Blackwell 超","body":"一家做大模型的软件公司，用 16 个月做出来的一块自研芯片，在推理能效上把 Nvidia 最强的 Blackwell 超了。\n过去十年，整个算力工业都把黄仁勋的 CUDA 生态当成不可撼动的物理定律。\n硬件架构容易画，但数以万计由顶尖工程师手写的底层算子库，能把所有挑战者活活耗死。\n没有任何一家芯片初创公司能活着跨过这条软件护城河。\n为什么 OpenAI 第一次下场造芯，就能在推理吞吐和能效上跑出将近两倍的优势？\n答案不在半导体制程，在一台被掩盖了十年的隐形机器：通用算力税与软件自举。\nNvidia 的 GPU 是一台什么都能算的通用机器。\n它要兼顾大模型训练、图形渲染、科学仿真、双精度浮点、光线追踪，还要兼容上百万种不同的历史算法。\n为了照顾这种通用性，芯片上大比例的硅片面积、控制逻辑和功耗，都在为那些你永远用不上的功能待命。\n但今天 AI 商业的核心战线，已经彻底从训练转向了推理。\n推理是一道纯粹的物理题。\n模型架构是固定的，矩阵乘法的尺寸是确定的，注意力机制的数据流是透明的。\n在推理的世界里，决定运营成本的不看纸面算力，看每焦耳能量能吐出多少个字符。\n当你在通用显卡上跑推理，买下的每一个核心，都在替那些闲置的通用电路交税。\nOpenAI 找博通合作自研的这块芯片，代号 Jalapeño，从第一天起就做了一件事：把通用包袱全部砍光。\n700 瓦功耗，单包封装塞进 15.4 TB/s 显存带宽的 HBM4，只保留专为大模型定制的矩阵引擎和权重静态脉动阵列。\n在 SemiAnalysis 的基准测试里，它的每瓦吞吐量做到了 Blackwell 的 1.5 到 1.9 倍，端到端延迟降低了数倍。\n如果只是在硬件上做减法，过去无数 ASIC 芯片公司也尝试过，全都撞得粉身碎骨。\n因为它们撞上了一堵无法逾越的高墙：底层软件库。\n想让一块新芯片跑出极致性能，需要数百名顶尖工程师花几年时间，一行一行手写汇编级内核。\nOpenAI 拆掉这堵高墙，靠的是两样核心工具。\n第一样叫 Triton 和 Gluon。\n他们自己搭建了编译器，用代数规则直接把张量映射到芯片寄存器，彻底绕开了 Nvidia 的闭源底层库。\n第二样更致命：让 AI 自己写驱动。\nOpenAI 直接调用内部的 Codex 模型，去生成并调优成千上万行繁重复杂、精细到寄存器的底层汇编算子。\n人类工程师需要耗费数月攻坚的代码调优，大模型在几天之内就能遍历出最优解。\n从 2024 年年中组建团队，到 2025 年 11 月流片，整个开发周期只用了 16 个月。\n真正瓦解旧垄断的，往往不是更先进的光刻机。\n是当你的业务规模大到可以直接定制硬件，同时用自己的软件编译器和 AI 工具链，抹平所有生态迁移成本。\n当制造顶级芯片的门槛，从数百名硬件专家的手艺沉淀，变成编译器加模型自举，旧霸主的护城河还能守住多久？","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-08-31 10:58:52","created_at":"2026-08-31 10:58:52","url":"https://mubeitech.com/p/mb-20260831-98330a","markdown_url":"https://mubeitech.com/p/mb-20260831-98330a/markdown"},{"rank":2,"id":"2084741987702624595","account":"mubei","brand":"@mubei","title":"AI 的核心计量单位，变了。 不再是囤了多少张 GPU，而是“吉瓦”（GW）。 马斯克交了底。 今年年底，他的算力规模要…","summary":"AI 的核心计量单位，变了。 不再是囤了多少张 GPU，而是“吉瓦”（GW）。 马斯克交了底。 今年年底，他的算力规模要突破 2 GW。 到了明年年底，这个数字会直接逼近 10 GW。 这早就不是什么硬件采购清单了。 这是直接在搞大基建。 AI 竞争，已经彻头彻尾地变成了能源和供…","body":"AI 的核心计量单位，变了。\n不再是囤了多少张 GPU，而是“吉瓦”（GW）。\n\n马斯克交了底。\n今年年底，他的算力规模要突破 2 GW。\n到了明年年底，这个数字会直接逼近 10 GW。\n\n这早就不是什么硬件采购清单了。\n这是直接在搞大基建。\nAI 竞争，已经彻头彻尾地变成了能源和供应链的较量。\n\n怎么建？\n路线直接拍板：独家押注英伟达。\n底牌，就是新一代的 Vera Rubin 架构。\n\n看看这台算力怪兽的硬指标。\n3360 亿个晶体管。\n推理性能飙到 50 PFLOPS，直接是上一代 Blackwell 的 5 倍。\n训练性能达到 3.5 倍。\n内存带宽拉到了夸张的每秒 22 TB。\n\n想让这种吞电巨兽全速运转，就得拿发电站的规模来喂。\n以后在 AI 牌桌上，手里没有几个吉瓦的电网，根本连入局的资格都没有。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2084795300439294089","translated_status_id":"2084795300439294089","published_at":"2026-08-04 20:50:17","created_at":"2026-08-04T22:43:17+02:00","url":"https://mubeitech.com/p/2084741987702624595","markdown_url":"https://mubeitech.com/p/2084741987702624595/markdown"},{"rank":3,"id":"2061074474410373503","account":"mubei","brand":"@mubei","title":"全球第一台英伟达下一代 AI 算力怪兽，发货了。 戴尔已把全球首个 Vera Rubin NVL72 机架，交给了 Co…","summary":"全球第一台英伟达下一代 AI 算力怪兽，发货了。 戴尔已把全球首个 Vera Rubin NVL72 机架，交给了 CoreWeave。 这标志着英伟达下一代 AI 机架系统，首次确认落地。 来看看这台机器有多恐怖。 72颗 Rubin GPU，配合36颗 Vera CPU。 7…","body":"全球第一台英伟达下一代 AI 算力怪兽，发货了。\n\n戴尔已把全球首个 Vera Rubin NVL72 机架，交给了 CoreWeave。\n这标志着英伟达下一代 AI 机架系统，首次确认落地。\n来看看这台机器有多恐怖。\n\n72颗 Rubin GPU，配合36颗 Vera CPU。\n75TB 的极速内存，加上 260TB/s 的 NVLink 带宽。\n直接轰出 3.6 exaFLOPS 的 FP4 推理算力。\n这简直是在建造算力核弹。\n\n算力就是新时代的印钞机。\n科技霸权的底座，就是由这一台台机架焊死的。\n谁先拿到最顶级的货，谁就能在下一个时代的牌局里继续坐庄。","category":"科技","score":83.3,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-31 23:11:57","created_at":"2026-05-31T15:17:02+02:00","url":"https://mubeitech.com/p/2061074474410373503","markdown_url":"https://mubeitech.com/p/2061074474410373503/markdown"},{"rank":4,"id":"16965160","account":"mubei","brand":"@mubei","title":"OpenAI 自己造的芯片，把英伟达打懵了。 功耗只有英伟达旗舰的一半，极限能效却拉出了上百倍差距。 这是 OpenAI…","summary":"OpenAI 自己造的芯片，把英伟达打懵了。 功耗只有英伟达旗舰的一半，极限能效却拉出了上百倍差距。 这是 OpenAI 首次公布自研推理芯片 Jalapeño 的实测战绩。 对比的对象不是老架构，而是英伟达当家旗舰 GB200 与 GB300。 两边差距有多夸张？ 单看功耗，J…","body":"OpenAI 自己造的芯片，把英伟达打懵了。\n\n功耗只有英伟达旗舰的一半，极限能效却拉出了上百倍差距。\n这是 OpenAI 首次公布自研推理芯片 Jalapeño 的实测战绩。\n对比的对象不是老架构，而是英伟达当家旗舰 GB200 与 GB300。\n\n两边差距有多夸张？\n单看功耗，Jalapeño 封装功耗 700 瓦，GB300 则是 1400 瓦。\n刚一通电，功耗先砍掉一半。\n\n再看跑大模型的真实能效。\n跑 6700 亿参数的 DeepSeek R1，在普通峰值下，Jalapeño 每千瓦吞吐是 GB300 的 1.7 倍。\n可一旦把用户需要的生成速度拉高，差距瞬间拉开。\n当速度要求达到每秒 169 个词时，GB300 的能效跌到 118，Jalapeño 依然能跑出 12258。\n能效整整差了 104 倍！\n\n跑开源的 120B 模型也是一样。\n高交互速度下，Jalapeño 的能效是 GB200 的 53.7 倍。\n跑万亿参数的 Kimi K2.5，端到端延迟降低了 2.2 倍，生成速度一路顶到每秒近 700 词。\n\n为什么全能的通用 GPU 会被拉开这么大距离？\n英伟达要兼顾训练和各类通用计算，芯片上堆了大量通用冗余。\nOpenAI 的专用芯片只干一件事：把所有晶体管和供电，死死焊在推理访存和生成上。\n\n大模型规模化落地，核心死穴就是每瓦功耗和电费成本。\n自研定制芯片把特定模型的推理能效拉高上百倍，直接砸穿了成本底线。\n英伟达靠通用 GPU 垄断推理市场的格局，正在被巨头们亲手撕开。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2092404347732660632","translated_status_id":"2092404347732660632","published_at":"2026-08-25 22:39:59","created_at":"2026-08-26T00:19:05+02:00","url":"https://mubeitech.com/p/16965160","markdown_url":"https://mubeitech.com/p/16965160/markdown"}]}