显卡沦为最昂贵内存控制器：32TB光纤内存池能打破英伟达算力绑定吗？

买一张三万美金的顶级显卡，最卡脖子的往往是内存。 你算力早就够用了。 但大模型的对话一变长，显存装满了。 想要把内存扩大一倍怎么办？ 没法像家用电脑那样买两根内存条插上。 唯一的办法，是再花三万美金，买一张一模一样的新显卡。 哪怕上面的计算核心你根本用不上。 顶级显卡生生被逼成了全世界最昂贵的内存控制器。 芯片专家 Dave Lazovsky 就曾公开这样调侃过。

为什么不能把内存拔出来单独买？ 因为物理定律在后面拽着。 现在的顶级芯片，用的是高带宽内存 HBM。 为了跑出每秒好几个太字节的带宽，HBM 必须贴在计算芯片边上。 两者之间的距离，大概只有 1.5 毫米。 连着它们的是极细的微米级铜导线。 铜线跑超高频电信号，走几厘米就会严重发热、信号失真。 距离一拉开，带宽当场腰斩。 工程上没办法，只能把内存和算力死死焊在同一块基板上。 你想单独扩容内存？ 门都没有。

平时做简单的单句问答，几十 GB 显存还能应付。 真正把内存撑爆的，是现在的长文本和智能体。 大模型跟人对话，每吐出一个新词，都必须记着前面所有聊过的内容。 在底层，这部分记忆被存成键值矩阵，也就是大家常说的 KV 缓存。 长篇文档读下来，或者几十个智能体来回协作，这个 KV 缓存会大得吓人。 本地显存一旦装不下，工程师就只有两个痛苦的选择。 要么把前面的缓存直接扔掉，下一轮要用时重新从头算一遍。 电费成倍增加，算力白白烧掉。 要么把缓存倒腾到慢吞吞的固态硬盘或者普通主机内存里。 吐字速度瞬间暴跌，大模型卡得像在喘粗气。

既然铜线跑不远，那就只能换成光。 光在玻璃纤维里穿梭，几厘米和几米几乎没有区别。 既不发烫，信号也不会明显衰减。 这周芯片大厂 Marvell 亮出了一个实物模块：光纤网络内存模块。 这套架构最初来自初创公司 Celestial AI，他们在 2025 年的芯片互联大会上公开了设计，随后被 Marvell 收购并入旗下。 他们的思路简单直接： 既然铜线拉不出机箱，那就用光纤把内存彻底搬出去，在外面单独做成一个大池子。

来看看他们是怎么搭这个池子的。 单个模块自带 72GB 的 HBM3e 高带宽内存，留了 8 个 DDR5 插槽，配一颗专用的光芯片，光纤接口带宽冲到 7.2Tbps。 把 16 个这样的模块塞进一个机箱，插满 128 根 256GB 的服务器内存条。 一台机器，直接坐拥 32TB 的 DDR5 内存，外加 1152GB 的高带宽内存。 模块之间连传统的电信号交换机都省了，全靠无源光纤直接交叉互联。 前面的高带宽内存充当高速写入缓存，后面垫着 32TB 的海量内存池。 最关键的是，这整整 32TB 的池子，可以用光纤同时分给 16 台服务器或者 16 张显卡一起用。

这能带来什么改变？ Marvell 的光纤业务产品主管 Ravi Mahatme 给出了核心答案：跨节点共享 KV 缓存。 第一张显卡算好的上下文缓存，直接顺着光纤扔进这个共享池子里。 第二张显卡接手后续任务时，不用重新计算，直接顺着光纤抓取现成的缓存。 算力不用空转，显卡也不用因为缺内存而被迫闲置。 Marvell 负责定制云业务的副总裁 Will Chu 这样解释背后的逻辑： 随着人工智能规模不断扩大，内存必须能够独立于算力进行扩展。 买算力是买算力，买内存是买内存。

听起来很美好，但工程世界从没有免费的午餐。 这条路上至少横着三道硬关。 第一关是时间表。 目前展出的硬件还停留在流片前的实验室验证阶段。 Marvell 官方给出的客户样片交付时间，要等到 2027 年。 未来两三年里，数据中心还得继续忍受被绑定买显卡的痛苦。 第二关是成本现实。 这台设备为了凑齐 32TB，需要插满 128 根 256GB 的高密度内存条。 偏偏现在全行业赶上内存大缺货。 服务器级别的 DDR5 内存价格一路狂飙，现在的价格差不多是危机前的 5.5 倍。 原本想靠它省下买显卡的钱，结果光是插满这些内存条，就是一笔巨款。 第三关，也是最关键的关卡：英伟达。 靠卖整套芯片赚取高额利润的英伟达，绝不可能在旁边干看着。 事实上，黄仁勋早就做好了对冲准备。 英伟达不仅手里握着价值 20 亿美元的 Marvell 股份，还在推进自己的 BlueField-4 数据处理器，专门负责长文本上下文的内存调度。 与此同时，他们投资了同样做内存池化技术的 Enfabrica，自家的共封装光学路线图也在往前推。

一边是试图用光纤把内存从芯片里解耦出来的挑战者。 一边是手握算力生态、随时准备用自有护城河防守的巨头。 大模型越变越聪明，上下文越拉越长。 这场围绕 32TB 内存的争夺，迟早会从铜线烧到那根比头发丝还细的光纤上。