{"id":"mb-20261013-9d2ce4","kind":"deep","title":"微软公布自研芯片Maia 300：攻克内存墙与每兆瓦词元能效比","summary":"面对大模型推理中的内存墙与数据中心电力配额瓶颈，微软公布第三代自研算力芯片Maia 300。通过集成8堆叠HBM4实现18TB/s超高内存带宽，并在液冷机柜层面实现每兆瓦多产出40%词元，展现出AI算力竞争从纯峰值性能转向能效与数据搬运的底层逻辑。","body":"算力芯片比高低，什么时候开始按每兆瓦能吐出多少个字来算了？\n\n微软最新公布了自研算力芯片 Maia 300。\n从 2027 年开始，这套芯片要直接铺进吉瓦级的数据中心。\n有意思的是官方公布的性能对比。\n他们不比浮点运算跑分，专门比了一个指标：\n在同样的电表读数下，每兆瓦电量产出的 token 数量，比主流 GPU 系统高出 40%。\n多吐 40% 的词，为什么能拿电量来算？\n这台芯片到底在省什么电？\n\n大模型吐字慢，很多人第一反应是算力不够。\n很多时候，芯片里的计算核心就在里面干等。\n等数据从内存里慢吞吞地搬过来。\n这就是芯片工程师常说的内存墙。\n大模型训练和日常推理，完全是两码事。\n训练模型的时候，几千亿参数倒进去，矩阵乘法一通狂算，拼的是算力峰值。\n真到了大家日常用 AI，比如让 Copilot 写一段代码、实时整理会议纪要，规则全变了。\n大模型是一个词一个词往外蹦的。\n每吐出一个新词，芯片就得把前面所有的上下文和模型权重，从内存里重新搬运一遍。\n要是对话拉长到几万字，需要搬运的数据量会成倍飙升。\n这时候计算核心跑得再快也没用。\n数据通路要是窄了，计算单元只能饿着肚子排队。\n更要命的是，这些庞大的计算单元哪怕闲着，通着电就会持续漏电发热，白白烧掉几百瓦的底噪功耗。\n\n微软这颗 Maia 300，抓的就是这根痛筋。\n它的目标很明确，就是专为大模型推理服务。\n怎么解决计算核心饿肚子的问题？\n把运数据的路修到最宽。\n这颗芯片上直接塞了 8 堆叠的 HBM4 高带宽内存。\n单颗芯片的内存带宽，拉到了 18TB/s。\n这是什么概念？\n一秒钟内，有 18TB 的数据能在内存和核心之间飞速流转。\n比起上一代 Maia 200，带宽直接翻了 2.5 倍，单位功耗下的带宽效率整整提高了一倍。\n光把外面的路修宽还不够。\n制造工艺也下了血本。\n微软用了多小芯片封装，负责计算的小芯片交给台积电用增强型 2 纳米制程制造，把内存控制器和输入输出接口独立拆开。\n单颗芯片的热设计功耗做到了 950 瓦。\n\n但这场较量，早就不在单颗芯片的参数上，全在机房的电表上。\n现在全球建 AI 数据中心，最卡人的早已经变成了变电站批复的用电指标。\n有钱能订到几万张显卡，但向当地电网申请几百兆瓦的通电额度，排队往往要等上好几年。\n既然总电量被电网卡得死死的，竞争的逻辑就彻底变了：\n谁能在固定的电表读数下，榨出更多的词。\n看微软公布的机柜账本：\n一个液冷机柜，塞进 96 颗 Maia 300 芯片，整机功耗被严格锁在 167 千瓦以内。\n在完全相同的 167 千瓦电表读数下，单机柜的词元吞吐量达到了上一代的 7 倍。\n折算下来，每兆瓦电力产出的 token 数量，直接比目前主流的 GPU 系统高出 40%。\n\nAI 算力竞争打到第三年，最关键的账本悄悄换了。\n前两年大家比拼谁能抢到更多显卡去训练大模型。\n现在数以亿计的日常交互扑面而来，每一次调用的电费，成了云服务厂商最真实的边际成本。\n当电网成了算力扩张的硬天花板，\n芯片能跑多快已经不够了，\n每度电到底能换回多少个词，才是接下来的真功夫。","topic":"微软公布自研芯片Maia 300：攻克内存墙与每兆瓦词元能效比","frame_type":["机制"],"citations":[],"channel_note":"","identity_notice":"","source_type":"generated","status":"published","generated_at":"2026-10-13 08:47:10","legal_anchor_count":0,"transcript_citation_count":0}