{"id":"mb-20261014-5c9722","kind":"deep","title":"摆脱英伟达税与电网荒：微软自研芯片 Maia 300 的底层工程账","summary":"微软公布的第三代自研芯片 Maia 300 避开训练峰值跑分，将设计重心全放在解决大模型日常推理的硬约束：内存墙与电网配额。本文拆解台积电 2 纳米芯粒拼装、HBM4 每秒 18TB 显存带宽与整机柜液冷背后的工程取舍，看云巨头如何在多吉瓦电力规模下重算算力成本。","body":"训练一个超级大模型只要几个月。\n但只要模型一上线，全世界几千万人天天在用，后台的电表就一秒都停不下来。\nAI 跑到现在，真正的开销大头全在日常推理上。\n很多人以为微软每年买英伟达显卡花几百亿美元，下场自研芯片是为了省下这笔采购费。\n真去算算账就知道，硬件采购的价格只是一个引子。\n真正卡住大厂脖子的，是电网能给的用电指标，还有芯片在后台干等数据的漫长时间。\n\n大模型回答你一个问题，后台到底在忙什么？\n很多人以为计算芯片是在拼命做加减乘除。\n跑去看芯片的利用率才发现，算力核心大部分时间都在干等。\n大语言模型生成文字，是一个词接着一个词往外蹦。\n每蹦出一个新词，芯片就得把上千亿个参数从显存里完完整整读一遍。\n计算核心算这几个数字只要零点几微秒。\n剩下的时间，全花在等数据从内存慢吞吞运进来了。\n这就是芯片工程师常说的内存墙。\n算力再强，路不够宽，芯片大部分时间只能在工位上发呆。\n\n微软刚刚公布的第三代自研芯片 Maia 300，解法全冲着这个痛点去。\n它没做成一整块大芯片。\n它把核心算力、内存控制和接口通信拆开，做成了多颗独立的芯粒拼在一起。\n为什么这么折腾？\n因为最先进的台积电 2 纳米制程太贵了。\n通信接口和内存控制电路，晶体管缩得再小也没法提升多少速度，纯粹浪费先进制程的晶圆面积。\n微软只把负责计算的核心扔给台积电 2 纳米，计算密度直接拔高了 36%。\n其他部分全留给更成熟、更便宜的工艺。\n省下来的空间留给谁？\n堆显存。\n\n单颗芯片直接塞了 8 组 HBM4 高带宽内存，总容量达到 288 GB。\n内存带宽冲到了每秒 18 TB。\n每秒 18 TB 是什么概念？\n一秒钟之内，能把几千部高清电影的数据从显存里抽出来过一遍。\n数据管道被彻底拓宽，计算核心不用再坐在那等米下锅了。\n\n光有大显存还不够。\n要是数据调度靠芯片硬件自己猜，很容易猜错，又得重新回显存捞。\n微软在这颗芯片里加了软件定义的局部访问架构。\n它把芯片上的高速静态缓存当成草稿纸，让编译软件全权调度。\n模型接下来需要算哪一层、用哪一部分数据，软件提前把东西摆上桌，算完立刻腾地方。\n省掉来回搬运的折腾，电费和时间就全省下来了。\n\n但单颗芯片做好，事情才刚解决了一半。\n更大的麻烦在机柜里。\n单个芯片功耗 950 瓦。\n微软把 96 颗这样的芯片塞进同一个机柜，整整 24 层，整机柜功耗飙到了 167 千瓦。\n167 千瓦是什么概念？\n相当于几十台大功率家用电磁炉开到最大档，塞进一个两米高的铁柜子里连轴转。\n普通的风扇吹风根本压不住，几分钟就能把机器烤化。\n微软在机柜里上了定向液冷系统，让冷却液直接贴着芯片、电压调节器和交换机跑。\n超过 80% 的热量，直接被水流抽走。\n\n把机柜连成大集群，微软也没用英伟达自家的 InfiniBand 网络。\n他们用了自己搭建的两级以太网体系，用开放标准把 12288 颗芯片绑成一个超级集群。\n为什么非要坚持用以太网？\n因为云厂商手里有现成的以太网设施，不想在专有网络协议上再被英伟达收一道高额税费。\n\n绕了这么大一圈，落到账面上换来的是什么？\n微软给出的核心指标，压根不是比谁的峰值跑分更高。\n他们盯住了一个很实在的数字：\n每兆瓦电力，多产出 40% 的有效词元。\n也就是大模型每吐出一个词，背后消耗的电量生生砍掉了将近三成。\n机柜级别的吞吐量，达到上一代芯片的 7 倍。\n为什么大厂现在都在拼命算每兆瓦的产出？\n因为全球数据中心现在最大的瓶颈，不是账上的现金，是电力供应。\n发电厂和电网给数据中心批的用电容量，就只有那么多。\n有钱买再多显卡，没有电，它就是一堆机房铁皮。\n微软已经计划在 2027 年把这套系统推向多吉瓦规模的部署。\n1 吉瓦是 10 亿瓦特，相当于一座大型核电机组的发电容量。\n在多吉瓦的电力规模下，每度电多挤出 40% 的计算结果，省下来的就是天文数字。\n\nAI 竞赛打到下半场，拼的早就不只是谁能训出更聪明的模型了。\n当模型变成全世界每天都在用的工具，谁能在有限的电网和机房里，把每一次回答的成本压到最低，谁才坐得稳这门生意。","topic":"摆脱英伟达税与电网荒：微软自研芯片 Maia 300 的底层工程账","frame_type":["机制"],"citations":[],"channel_note":"","identity_notice":"","source_type":"generated","status":"published","generated_at":"2026-10-14 11:31:42","legal_anchor_count":0,"transcript_citation_count":0}