{"source":{"id":"2040090618433814996","title":"GPU 95% 的工作量都在跑矩阵乘法。 把这块拆出来，用光代替电，速度能快多少？ 光子计算坐了 50 年冷板凳。 现在…","url":"https://mubeitech.com/p/2040090618433814996"},"method":"semantic-similarity","count":4,"items":[{"rank":1,"id":"2029936664429183319","account":"mubei","brand":"@mubei","title":"几千亿美元砸进硅谷，只为了抢 GPU。 这些天价显卡 99% 的时间和电费，到底耗在了哪里？ 算矩阵乘法。 说白了就是把…","summary":"几千亿美元砸进硅谷，只为了抢 GPU。 这些天价显卡 99% 的时间和电费，到底耗在了哪里？ 算矩阵乘法。 说白了就是把一堆数字排成方阵，然后互相乘。 这就是现代 AI 神经网络的全部底座。 现在的解法极其暴力。 普通的电脑 CPU 顶多 16 到 32 个核心。 GPU 直接塞…","body":"几千亿美元砸进硅谷，只为了抢 GPU。\n这些天价显卡 99% 的时间和电费，到底耗在了哪里？\n\n算矩阵乘法。\n说白了就是把一堆数字排成方阵，然后互相乘。\n这就是现代 AI 神经网络的全部底座。\n\n现在的解法极其暴力。\n普通的电脑 CPU 顶多 16 到 32 个核心。\nGPU 直接塞进去成千上万个算力单元。\n\n单拎出来比，GPU 的单个核心根本跑不过 CPU。\n它完全是靠人海战术，用极度密集的并行计算把整体速度堆上去。\n但这套用电信号硬算的模式，越来越吃力。\n\n华尔街最近盯上了一个新东西。\n光子计算。\n\n与其用电流在硅片里苦苦排队，不如直接用光学硬件来跑算法。\nAI 硬件的下一次大洗牌，才刚刚起步。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-05 05:25:30","created_at":"2026-05-05T07:24:27.543138","url":"https://mubeitech.com/p/2029936664429183319","markdown_url":"https://mubeitech.com/p/2029936664429183319/markdown"},{"rank":2,"id":"raw_15664e857d3b36ee","account":"mubei","brand":"@mubei","title":"Anthropic 一家做大模型的软件公司，正在把 15 个吉瓦（GW）的算力直接压给博通的专用芯片。 15 个吉瓦是什…","summary":"Anthropic 一家做大模型的软件公司，正在把 15 个吉瓦（GW）的算力直接压给博通的专用芯片。 15 个吉瓦是什么概念？ 相当于 15 座大型核电站机组的满负荷输出，或者整座纽约市在用电高峰时的全部电力负荷。 这家原本给谷歌和亚马逊做模型的软件实验室，2027 年要部署…","body":"Anthropic 一家做大模型的软件公司，正在把 15 个吉瓦（GW）的算力直接压给博通的专用芯片。\n15 个吉瓦是什么概念？\n相当于 15 座大型核电站机组的满负荷输出，或者整座纽约市在用电高峰时的全部电力负荷。\n这家原本给谷歌和亚马逊做模型的软件实验室，2027 年要部署 5 个吉瓦的 TPU v8i，2028 年还要再追加 10 个吉瓦。\n它将一举超过谷歌，变成博通全球最大的定制芯片客户。\n另一边的 OpenAI 也在干同一件事。\nOpenAI 自研的第一代推理专用芯片 Jalapeño 刚刚开始量产出货，2027 年要部署 1.3 个吉瓦，2028 年目标直接拉到 5 个吉瓦以上。\n华尔街大部分人还在盯着英伟达卖了多少张通用显卡。\n为什么两家最顶尖的模型公司，算力规模一旦冲到吉瓦级别，都不约而同绕开了英伟达？\n答案藏在半导体物理与电网配电的一条硬约束里：定制硅分流。\n算力扩张到了吉瓦这个量级，真正的瓶颈早就不是买芯片的预算，是变电站的审批和电网的物理承载力。\n电力成了限制智能扩张的硬天花板。\n英伟达的通用显卡为了兼顾各种科学计算、图形渲染和前沿算法探索，芯片上留了大量冗余电路、复杂的通用调度模块和高精度计算单元。\n这些通用设计，每分每秒都在耗电。\n但当模型架构在工业级推理场景下固定下来，每天要处理几十亿次请求时，那些为了通用性保留的电路就变成了纯粹的电力浪费。\n专用芯片做的事情，是把所有多余的电路全部砍掉。\n它把模型最核心的矩阵乘法和数据传输通道直接固化在硅片上。\n在固定的电力预算下，专用芯片的能效比可以达到通用显卡的 2 到 3 倍。\n同样是一座 5 吉瓦的数据中心，用专用芯片能跑出来的推理吞吐量，能翻上一倍到两倍。\n省下几十亿美元电费只是附带结果，更关键的是直接突破了电网给每个数据中心划定的功率死线。\n很多人会问：既然是自研芯片，为什么它们都要找博通？\n因为把数十万颗芯片连在一起，算力只占一半，另一半全在高速互联。\n芯片算得再快，数据如果卡在传输通道上，芯片就会在空转中白白烧电。\n博通手里握着全球顶级的 SerDes 高速接口技术、Tomahawk 交换机芯片和先进封装连接专利。\n模型公司负责出算法架构，博通负责把这些计算核心用极低延迟的高速通道绑成一个庞大的算力集群。\n这条路径让模型公司同时甩掉了两道枷锁：一道是第三方通用芯片 70% 以上的毛利溢价，另一道是公有云厂商层层加价的租赁成本。\n算力竞赛的底层规则已经变了。\n探索期买通用显卡找方向，规模化部署就必须走专用芯片抢电网。\n未来的顶级人工智能竞争，不看谁囤了更多显卡。\n看谁能把变电站输进来的每一瓦电力，以最高的效率换成智能。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2095429617913930059","translated_status_id":"2095429617913930059","published_at":"2026-09-03 10:27:47","created_at":"2026-09-03T10:27:47.421982","url":"https://mubeitech.com/p/raw_15664e857d3b36ee","markdown_url":"https://mubeitech.com/p/raw_15664e857d3b36ee/markdown"},{"rank":3,"id":"raw_da9282e1e02b3197","account":"mubei","brand":"@mubei","title":"把四千多张芯片连成同一个大脑，最先顶不住的往往是机柜上的接头。 按照传统的机房布线方案，想让四千张顶级芯片无缝协同工作，…","summary":"把四千多张芯片连成同一个大脑，最先顶不住的往往是机柜上的接头。 按照传统的机房布线方案，想让四千张顶级芯片无缝协同工作，你得在机柜面板上密密麻麻插进四万八千个可插拔光模块。 光是伺候这几万个发热的小金属盒，每小时就要白白烧掉几百度电。 更让人头疼的是可靠性。 几万个光学元件塞进机…","body":"把四千多张芯片连成同一个大脑，最先顶不住的往往是机柜上的接头。\n按照传统的机房布线方案，想让四千张顶级芯片无缝协同工作，你得在机柜面板上密密麻麻插进四万八千个可插拔光模块。\n光是伺候这几万个发热的小金属盒，每小时就要白白烧掉几百度电。\n更让人头疼的是可靠性。\n几万个光学元件塞进机房，按照常规故障率推算，每隔几个小时就可能坏掉一个。\n但在大模型训练的世界里，只要有一根关键光纤掉线，四千张芯片就得全体停工。\n大家只能坐在那里，眼睁睁看着算力空转，等待系统排查、重启并重新加载数据。\n每天宝贵的时间，大半都浪费在停机和保存进度上了。\n\n既然这么麻烦，为什么非要把四千张甚至上万张芯片死死捆在一起？\n分散成一个个小集群慢慢算不行吗？\n不行。\n因为大模型的参数规模，已经一路狂飙到了万亿甚至十万亿级别。\n单张芯片哪怕性能再强，塞不下一整个模型，就必须把模型切碎，分摊到几千张卡上同时跑。\n这里面藏着一个非常现实的物理限制。\n受限于外部技术管制，国内代工厂无法获得最先进的极紫外光刻机（EUV）。\n单颗芯片在晶体管密度和原始计算性能上，客观上落后于英伟达最新的旗舰产品。\n单兵打不过，怎么办？\n那就只能靠兵团作战。\n如果单颗芯片的算力有差距，就用四千张、八千张，甚至一万五千张芯片组成庞大的集群，靠庞大的规模把总算力强行拉齐。\n\n但规模每扩大一倍，物理定律的惩罚就会猛烈一倍。\n这就是超大规模集群绕不开的物理死角：阿姆达尔定律与通信墙。\n当几千张芯片共同训练一个庞大模型时，芯片之间需要以极高的频率同步海量参数。\n这个时候，算力本身跑得飞快，数据在芯片之间来回传输的速度却成了致命瓶颈。\n如果在主板上用铜线传输信号，高频电信号只要跑出一两米，就会因为衰减而变成无法识别的噪音。\n跨机柜的长距离通信，必须把电信号转成光信号，通过光纤来传递。\n这就把整个系统重新推回了开头的死局：\n你必须插上整整四万八千个高功耗、易损坏的光模块。\n庞大的芯片集群，被通信线路硬生生卡住了脖子。\n\n这个死结到底该怎么解？\n在 2026 年 9 月的华为全联接大会上，华为副董事长兼轮值董事长汪涛公布了他们的工程拆招方案。\n他们拿出的核心武器叫 Atlas 960E 超节点。\n这台庞然大物把四千零九十六颗昇腾芯片紧密连接在一起，能够提供 8 EFLOPS 的 FP8 浮点算力。\n他们是怎么解决那四万八千个光模块的？\n做法非常激进：\n他们把笨重的独立光模块扔了，直接把激光光源和光学引擎贴到了芯片封装旁边。\n这就是业界前沿的近封装光学技术，英文缩写是 NPO。\n华为把自研的近封装光引擎命名为 Hi-ONE。\n过去高频电信号需要跑过漫长的电路板导线，再钻进机柜面板上的光模块；\n现在，芯片旁边的电路走线被压缩到了毫米级。\n电信号刚出芯片，一瞬间就被转换成光脉冲，顺着光纤直接发射出去。\n带来的改变非常直接。\n整套系统用五千五百个集成的 Hi-ONE 光引擎，完全替代了过去所需的四万八千个传统 800G 光模块。\n光是这一项改动，就为互联系统省下了超过 550 千瓦的功耗。\n更关键的是可靠性。\n几万个高故障率的可插拔接头消失了，整个超节点系统的可用度提升到了 99.8%。\n\n光有高速的光缆还不够，四千张芯片怎么才能像单台电脑那样顺畅调度？\n这就需要底层协议来配合了。\n华为拿出了自研的灵衢统一互联总线，英文叫 UnifiedBus。\n以往的机房里，不同服务器访问彼此的内存，需要跨越繁琐的网络协议层层封装与中转。\n而在灵衢总线的架构下，四千多颗处理器、大容量的高带宽内存和固态硬盘，被整合成了一套统一的内存编址空间。\n整整 1 PB 的高带宽内存被完全打通，芯片跨节点读取数据就像在本地读写一样顺畅。\n在更长远的规划里，华为甚至公布了包含 15488 颗处理器的 Atlas 960 超节点蓝图。\n那套系统规划了 34 PB/s 的互联带宽和 4460 TB 的庞大内存，目标直指十万亿参数的大模型训练。\n按照汪涛公布的节奏，用于训练的昇腾 960DT 提前到了 2027 年一季度发布，用于推理的 960PR 紧随其后。\n未来两年，还将按每年一代的节奏推出昇腾 970 和 980。\n\n他在演讲中还提出了一个概念：陶（τ）缩放定律。\n这套说法的逻辑很明确：既然在物理晶体管几何尺寸上很难继续缩小，那就通过架构创新、降低时延和能效优化，在时空尺度上换取性能翻倍。\n把这个技术词汇翻译成人话，意思其实非常清楚：\n依赖单个晶体管变小变快的传统摩尔定律，在外部管控下已经很难走通了。\n未来的破局路径，必须全面转向系统工程。\n单张芯片工艺受限，就靠自研总线打通内存；\n机柜连线功耗爆炸，就靠近封装光学强行压缩通信损耗。\n\n那么，这套庞大的系统工程，真的能直接反超英伟达吗？\n如果冷静地看，前方的工程挑战依然严峻。\n英伟达手里捏着台积电成熟的先进工艺，拥有极高的单卡计算效率；\n它背后的 NVLink 铜缆背板和全球数百万开发者构筑的 CUDA 软件生态，更是一道极难逾越的护城河。\n把一万五千颗芯片连成一个集群，设计蓝图是一回事，在现实中稳定跑起来是完全不同的另一回事。\n近封装光学的制造良率极难把控，只要一颗光引擎在封装时出现微小瑕疵，整块昂贵的主板可能就要报废。\n几千颗高功耗处理器密密麻麻挤在一起，液冷散热系统的任何一次微小渗漏，都会带来灾难性的后果。\n更不用说数万颗芯片协同训练时，底层编译器如果无法完美平衡任务分配，海量算力依然会在互相等待中白白流失。\n\n但这件事展现出了一种极其真实的工程韧性。\n当最顺手的工艺升级路线被切断时，工程师们没有停留在口头争论上。\n他们选择把现有的物理条件压榨到极限。\n既然单张芯片做不到最小，他们就去解决四万八千个接头的发热与损坏；\n既然无法获得最先进的光刻机，他们就用光学与先进互联把整个机房拼接成一颗巨大的超级芯片。\n算力竞赛的真正战线，早已从微米级的晶圆表面，蔓延到了挤满光纤与冷却液的机柜内部。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2102276138399613331","translated_status_id":"2102276138399613331","published_at":"2026-09-22 06:17:41","created_at":"2026-09-22T06:17:41.282847","url":"https://mubeitech.com/p/raw_da9282e1e02b3197","markdown_url":"https://mubeitech.com/p/raw_da9282e1e02b3197/markdown"},{"rank":4,"id":"16437011","account":"mubei","brand":"@mubei","title":"AI芯片的竞争，早就不在单颗GPU上了。 下一步拼什么？ 拼256张卡怎么塞进一个机架里，还能互相顺畅地“说话”。 7月…","summary":"AI芯片的竞争，早就不在单颗GPU上了。 下一步拼什么？ 拼256张卡怎么塞进一个机架里，还能互相顺畅地“说话”。 7月22日的旧金山，AMD要开一场AI前瞻大会。 投行杰富瑞的分析师盯上了这里的底牌。 他们预计AMD会把CPU的潜在市场预期喊到两千亿美元以上，但这还不是最关键的…","body":"AI芯片的竞争，早就不在单颗GPU上了。\n下一步拼什么？\n拼256张卡怎么塞进一个机架里，还能互相顺畅地“说话”。\n\n7月22日的旧金山，AMD要开一场AI前瞻大会。\n投行杰富瑞的分析师盯上了这里的底牌。\n他们预计AMD会把CPU的潜在市场预期喊到两千亿美元以上，但这还不是最关键的。\n重头戏在MI500系列GPU。\n\n今年CES上它露过一面，但硬核细节一直藏着。\n杰富瑞抛出了一个预期：MI500平台可能会把一个机架里的GPU数量推到256颗。\n256颗卡挤在一起，算力是上去了，但数据怎么通？\n传统方案根本扛不住，必须上光互连。\n\n这就是为什么现在整个供应链都在死死盯着CPO【光电共封装】路线。\n大家都在等AMD在会上确认两件事。\n第一，是不是真的全押注CPO扩展方案？\n第二，到底谁来供应最核心的光引擎？\n\n在交换机那端，杰富瑞认为AMD已经在拉着ALAB和博通推进合作了。\n只要AMD给MI500的光互连路线亮了绿灯，整个光通信供应链就会立刻收到发令枪。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2079703891138981988","translated_status_id":"2079703891138981988","published_at":"2026-07-21 21:18:22","created_at":"2026-07-21T23:06:26+02:00","url":"https://mubeitech.com/p/16437011","markdown_url":"https://mubeitech.com/p/16437011/markdown"}]}