深度解读芯片与硬件generatedpublished

为什么英伟达悄悄砍了NVLink带宽?聊聊AI芯片撞上的物理极限与AMD的逆袭

机制

如果你去问一个常年泡在机房里的算力架构师,英伟达最难被击败的武器是什么? 对方大概率不会跟你吹图形核心有多强。 他会指着机柜后面那几千根密密麻麻的铜缆对你说: 看,这就是 NVLink。 只要用这套专用总线把几十张显卡连起来,它们就会像一颗巨大的单芯片一样协同工作。 别的公司或许能做出算力不错的芯片。 但在多卡互联的通信带宽上,过去很多年,几乎没人能摸到英伟达的尾巴。 直到最新一轮硬件参数公布,业内不少人倒吸了一口凉气。 英伟达下一代旗舰平台鲁宾(Rubin),单张 GPU 的双向互联带宽,悄悄从原定的 3.6 TB/s 砍到了 3.0 TB/s。 折算成单向带宽,就是从 1.8 TB/s 降到了 1.5 TB/s。 一个装有 72 张芯片的机柜,总互联带宽直接从 260 TB/s 缩水到了 216 TB/s。 更让人意外的是另一边。 老对手 AMD 亮出了下一代旗舰加速卡 MI455X。 单卡互联带宽定在 1.8 TB/s,板载的高带宽内存(HBM4)带宽,直接冲到了惊人的 23.3 TB/s。 也就是说,不管是卡和卡之间的沟通速度,还是芯片自己读取显存的速度,AMD 在纸面参数上第一次反超了英伟达。 有没有搞错? 向来在互联总线上把对手甩开几条街的英伟达,怎么会在自己的护城河上主动踩刹车?

要弄明白这件事,得先看看现在的大模型到底在怕什么。 在很多人的直觉里,训练或者运行大模型,拼的就是芯片的算力有多高。 现实情况刚好相反。 在今天动辄几千亿甚至上万亿参数的混合专家模型(MoE)面前,算力反倒成了最容易过剩的部件。 真正卡死整个系统的,是数据搬运的速度。 比如一个专家模型,上百个不同领域的专家网络分散在机柜里的 72 张显卡上。 模型每生成一个词,这 72 张显卡就得在几毫秒内把各自的数据交换一遍。 这在工程上叫做全交换通信(All-to-All)。 如果连接芯片的公路太窄,哪怕你的核心算力再快,成千上万个计算单元也只能干瞪眼,排队等着数据送过来。 这就是硬件工程师常说的通信墙与显存墙。

既然互联带宽这么要命,英伟达为什么要自降规格? 答案藏在物理学的残酷限制里。 第一个撞上的,是芯片的海岸线极限。 很多人看芯片,以为里面空间大得很。 但数据要进出芯片,必须经过硅片最外圈的那一圈物理边缘,工程师管这个叫芯片海岸线。 下一代旗舰芯片的海岸线上,正在打一场惨烈的地盘争夺战。 一边是高带宽内存 HBM4,为了喂饱算力,内存位宽翻倍,要把大量的连接触点挤在芯片边缘。 另一边就是 NVLink 的高速收发接口(SerDes)。 硅片的总面积是有物理上限的,海岸线就那么长。 芯片边缘被各种接口占得水泄不通,给内存多让出一毫米,互联接口就少了一毫米。

第二个撞上的,是铜缆在高频下的物理衰减。 很多人好奇,为什么机柜内部不用光纤,全用密密麻麻的铜线? 因为短距离光模块不仅极其昂贵,而且功耗和发热大得惊人。 英伟达只能靠铜缆来连这 72 张卡。 但是,当信号传输速率冲到 224G 这种极限频率时,铜线就像一块会吸走电信号的海绵。 高频信号在两米长的铜线里跑一圈,衰减得极其剧烈,信号很容易变成一团乱码。 要把单卡带宽强行推到 3.6 TB/s,就必须加大发射功率、增加通道数量,或者在中间拼命加中继芯片。 这就引爆了第三个难题:机柜功耗墙。 一个 72 张卡的密集计算柜,功耗本来就已经逼近 130 千瓦,相当于上百台大功率家用空调全开。 如果再为互联带宽硬上功耗,芯片边缘和交换芯片会被活活烤焦,芯片在台积电的封装良品率也会掉到没法看。 英伟达只能做出一笔极其务实的工程取舍: 把单向带宽从 1.8 TB/s 降到 1.5 TB/s。 主动后退这一步,换来的是可控的发热、干净的信号余量,以及能稳定批量生产的成品率。

那 AMD 又是怎么把参数拉上去的? AMD 走的是典型的重装卡车路线。 靠着在小芯片封装上积攒多年的老底子,AMD 在 MI455X 上直接堆了 12 颗 HBM4 内存颗粒,堆出了 432 GB 的海量显存。 显存带宽直接冲破 23 TB/s,比英伟达常规版本的 22 TB/s 还要高出一截。 在多卡互联上,AMD 联合了谷歌、Meta、博通等一众巨头组建的 UALink 开放联盟,直接把单向带宽标到了 1.8 TB/s。 AMD 的算盘很清晰: 既然大模型推理最卡在显存容量和显存带宽上,那就用暴力堆料的方式,在纸面上把参数拉满。

不过,纸面参数领先,不等于机房里的真实胜负。 在纸面上画出 1.8 TB/s 很容易,但在几十张卡的机柜里让高速信号稳定跑起来,需要极深的工程积淀。 英伟达已经迭代了六代 NVLink 交换芯片,底层的集合通信库经过了全球无数大厂多年踩坑优化。 而开放的 UALink 联盟虽然声势浩大,但不同厂商的芯片、交换机和软件栈要磨合到严丝合缝,依然有一段硬仗要打。

但这件事依然给整个芯片行业划出了一条新分界线。 它清清楚楚地告诉所有人:靠堆晶体管轻松翻倍性能的黄金时代,彻底结束了。 未来的算力战争,已经从比拼谁的核心更会算题,变成了比拼谁能在铜线的损耗、芯片边缘的尺寸和滚烫的热量之间,找到最精妙的物理平衡。

同领域解读 / CHIPS & HARDWARE

查看全部「芯片与硬件」解读 →

规范引用 / CANONICAL CITATION

为什么英伟达悄悄砍了NVLink带宽?聊聊AI芯片撞上的物理极限与AMD的逆袭 — 墓碑科技 MUBEITECH(https://mubeitech.com/deep/mb-20261026-23cd05)

导出 / EXPORT

订阅 · SUBSCRIBE

每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。

不追踪邮件打开与邮件链接点击,一键退订。 或用 RSS · 详情