{"id":"mb-20261013-839e9b","kind":"deep","title":"微软自研芯片铺向吉瓦级：为什么AI推理必须换掉通用显卡","summary":"微软宣布将自研Maia芯片推进至吉瓦级部署，并作为旗下全线产品的核心推理系统。面对日常服务无休止的电费与散热压力，专用芯片凭借单瓦吞吐优势重塑了推理账本，通用显卡则退守前沿训练。","body":"微软要把自研芯片铺到吉瓦级，自家AI推理全换它来跑。\n\n纳德拉刚发了公告。\n从明年开始，微软要把自家的 Maia 芯片部署规模扩大到几吉瓦。\n以后的 Teams、Copilot 这些自家的产品和服务，主力推理系统全部交给它。\n\n几吉瓦是什么规模？\n一吉瓦就是一百万千瓦。\n一座大型核电机组的发电功率，差不多也就一百万千瓦上下。\n几吉瓦的算力集群，相当于几座核电机组发出来的电，全用来给这批芯片供能。\n\n有人会好奇：\n前两年微软还在大批采购英伟达显卡，怎么现在急着给自家推理全面换血？\n\n看背后的账本就明白了。\n\n跑大模型主要就两件事。\n一个是训练，一个是推理。\n训练就像打地基，虽然花钱很猛，但几个月半年就完工了，咬咬牙买最贵的卡也能扛过去。\n推理却完全不同。\n全世界每天有几亿人在 Teams 里面开会转文字、在 Copilot 里写总结，每分每秒都在调用后台。\n只要服务开门迎客，电表就在疯狂打表。\n\n在这个量级上，显卡的初始买价已经不是最致命的成本了。\n机房的电费和散热，才是每天都在吞钱的黑洞。\n\n微软给出的实测数据很说明问题。\n已经在欧美和澳大利亚铺开的 Maia 200，每瓦电能吐出的 token 数量，达到了通用 GPU 的 1.7 倍。\n刚公布的 Maia 300，能效还要比顶配 GPU 方案再高出 40%。\n\n这就是专用芯片的优势。\n通用显卡要兼顾科学计算、图形渲染和各种复杂的算法，核心里堆满了冗余模块。\n而微软自己的推理芯片目标单一：\n专门跑自家大模型的推理运算。\n不需要的指令全去掉，缓存和数据通路全照着大模型的吞吐特征来做。\n\n在机房里，省电从来不只是少交电费。\n每一度电的能耗降下来，机房有限的配电容量里，就能多塞进几十万颗算力核心。\n英伟达的最新硬件微软还会继续买，那是用来训练下一代前沿模型的。\n但在自家每天跑的日常业务里，用最省电的自研芯片把推理成本打下来，这套商业飞轮才真正转得起。","topic":"微软自研芯片铺向吉瓦级：为什么AI推理必须换掉通用显卡","frame_type":["机制"],"citations":[],"channel_note":"","identity_notice":"","source_type":"generated","status":"published","generated_at":"2026-10-13 09:15:36","legal_anchor_count":0,"transcript_citation_count":0}