DEEPgeneratedpublished

单张芯片性能落后四五年,靠堆出十倍数量的卡,根本填不平底下的物理断层

热效率之墙与瓦特代偿陷阱机制

单张芯片性能落后四五年,靠堆出十倍数量的卡,根本填不平底下的物理断层。 智谱 AI 把最新的大模型推理全部搬上了国产芯片。 很多人把这当成芯片封锁被彻底击穿的标志。 只要芯片造得多、机房建得大,算力断供就伤不到分毫。 真的只要堆数量就能解决问题? 把这笔账顺着物理极限和数据中心的电表算到底,会看到一台冰冷锁死算力扩张的机器。 热效率之墙与瓦特代偿陷阱。 很多人看芯片,只看跑分和单卡算力。 华为昇腾 910C 拥有 96GB 显存和 1.6 PFLOPs 的 INT8 算力。 这个纸面数据,大约相当于四年前发布的 NVIDIA H100 的六成。 面对最新一代的 NVIDIA 芯片,代差已经拉大到整整一个数量级。 有人说,单张卡落后十倍,那就造十倍的卡、建十倍的机柜。 中国有庞大的发电装机容量,也有海量的工程基建能力。 堆数量难道行不通? 在半导体物理学面前,数量从来无法直接替代工艺。 第一道绕不过去的铁壁,是 ASML 的 EUV 极紫外光刻机。 荷兰人用了整整二十五年,耗资数百亿美元,才把极紫外光刻推进到量产产线。 克里斯·米勒在《芯片战争》里把这项技术称为现代工业制造的最高极限。 没有极紫外光刻,芯片制程就被死死卡在 7 纳米的物理红线之外。 晶体管无法微缩,要想维持算力输出,只能强行把芯片面积做大。 芯片面积越大,功耗越高。 当发热量超过了单位面积的散热极限,就撞上了无法逾越的热效率之墙。 风冷吹不透,水冷压不住,芯片只能被迫降频自保。 不仅是计算核心,制造高阶 HBM 高带宽显存同样依赖极紫外光刻。 昇腾 910C 只能配备 96GB 显存,只有西方顶尖芯片的三分之一。 显存容量不足,直接击中了 AI 推理最要命的命门:KV 缓存。 显存池子太小,大模型在推理时就无法容纳大规模的并发批次。 一旦批次被压缩到极限,单颗芯片在解码阶段的单位能耗吞吐就会断崖式暴跌。 芯片大半时间不是在计算,是在等待数据调度。 单张芯片效率打折,堆出十倍数量的芯片,代价是指数级膨胀。 十倍的芯片意味着十倍的跨节点网络互连,以及成倍翻滚的冷却系统能耗。 在成熟的数据中心全生命周期成本 TCO 模型里,电力开销通常只占 10% 到 20%,大头是硬件折旧。 当单位功耗的 Token 产出恶化五倍以上,整个成本结构发生剧烈倒挂。 电费不再是附带开销,它直接吃掉了整个机房近 50% 的运营账单。 算法层面的轻量化蒸馏或者架构优化,根本救不回这笔账。 把模型做小确实能省算力,但同一套轻量化算法跑在先进制程芯片上,能效同样会翻倍提升。 两边的能效剪刀差,依然停留在原地。 靠着国家电力补贴和非市场化的财政输血,这套机器可以在封闭环境里维持运转。 但只要把服务推向需要按每百万 Token 计价的全球商业市场,这笔账就瞬间失去造血能力。 科技文明的代差,从来不体现在用行政指令堆出了多少规模。 它体现在谁能用最极致的物理效率,把每瓦特能量转化为最多的有效计算。 靠补贴可以填满机房的电表。 但没有任何补贴,能跨过物理定律画下的那道能效红线。

引用 / CITATIONS

No citations exported.

导出 / EXPORT

订阅 · SUBSCRIBE

新的深度解读发布时,会在每周简报里送到你邮箱。

不追踪邮件打开与邮件链接点击,一键退订。 或用 RSS · 详情