{"id":"mb-20261024-d9f5af","kind":"deep","title":"显卡沦为最昂贵内存控制器：32TB光纤内存池能打破英伟达算力绑定吗？","summary":"大模型长上下文与智能体催生海量 KV 缓存，受制于铜线 1.5 毫米封装极限，算力中心被迫通过加购整张显卡来扩充显存。Marvell 展出的光纤内存模块通过 32TB 共享内存池实现算力与内存解耦，但面对 2027 年交付周期、DDR5 涨价 5.5 倍以及英伟达的软硬件对冲，光互联内存革命仍有硬仗要打。","body":"买一张三万美金的顶级显卡，最卡脖子的往往是内存。\n你算力早就够用了。\n但大模型的对话一变长，显存装满了。\n想要把内存扩大一倍怎么办？\n没法像家用电脑那样买两根内存条插上。\n唯一的办法，是再花三万美金，买一张一模一样的新显卡。\n哪怕上面的计算核心你根本用不上。\n顶级显卡生生被逼成了全世界最昂贵的内存控制器。\n芯片专家 Dave Lazovsky 就曾公开这样调侃过。\n\n为什么不能把内存拔出来单独买？\n因为物理定律在后面拽着。\n现在的顶级芯片，用的是高带宽内存 HBM。\n为了跑出每秒好几个太字节的带宽，HBM 必须贴在计算芯片边上。\n两者之间的距离，大概只有 1.5 毫米。\n连着它们的是极细的微米级铜导线。\n铜线跑超高频电信号，走几厘米就会严重发热、信号失真。\n距离一拉开，带宽当场腰斩。\n工程上没办法，只能把内存和算力死死焊在同一块基板上。\n你想单独扩容内存？\n门都没有。\n\n平时做简单的单句问答，几十 GB 显存还能应付。\n真正把内存撑爆的，是现在的长文本和智能体。\n大模型跟人对话，每吐出一个新词，都必须记着前面所有聊过的内容。\n在底层，这部分记忆被存成键值矩阵，也就是大家常说的 KV 缓存。\n长篇文档读下来，或者几十个智能体来回协作，这个 KV 缓存会大得吓人。\n本地显存一旦装不下，工程师就只有两个痛苦的选择。\n要么把前面的缓存直接扔掉，下一轮要用时重新从头算一遍。\n电费成倍增加，算力白白烧掉。\n要么把缓存倒腾到慢吞吞的固态硬盘或者普通主机内存里。\n吐字速度瞬间暴跌，大模型卡得像在喘粗气。\n\n既然铜线跑不远，那就只能换成光。\n光在玻璃纤维里穿梭，几厘米和几米几乎没有区别。\n既不发烫，信号也不会明显衰减。\n这周芯片大厂 Marvell 亮出了一个实物模块：光纤网络内存模块。\n这套架构最初来自初创公司 Celestial AI，他们在 2025 年的芯片互联大会上公开了设计，随后被 Marvell 收购并入旗下。\n他们的思路简单直接：\n既然铜线拉不出机箱，那就用光纤把内存彻底搬出去，在外面单独做成一个大池子。\n\n来看看他们是怎么搭这个池子的。\n单个模块自带 72GB 的 HBM3e 高带宽内存，留了 8 个 DDR5 插槽，配一颗专用的光芯片，光纤接口带宽冲到 7.2Tbps。\n把 16 个这样的模块塞进一个机箱，插满 128 根 256GB 的服务器内存条。\n一台机器，直接坐拥 32TB 的 DDR5 内存，外加 1152GB 的高带宽内存。\n模块之间连传统的电信号交换机都省了，全靠无源光纤直接交叉互联。\n前面的高带宽内存充当高速写入缓存，后面垫着 32TB 的海量内存池。\n最关键的是，这整整 32TB 的池子，可以用光纤同时分给 16 台服务器或者 16 张显卡一起用。\n\n这能带来什么改变？\nMarvell 的光纤业务产品主管 Ravi Mahatme 给出了核心答案：跨节点共享 KV 缓存。\n第一张显卡算好的上下文缓存，直接顺着光纤扔进这个共享池子里。\n第二张显卡接手后续任务时，不用重新计算，直接顺着光纤抓取现成的缓存。\n算力不用空转，显卡也不用因为缺内存而被迫闲置。\nMarvell 负责定制云业务的副总裁 Will Chu 这样解释背后的逻辑：\n随着人工智能规模不断扩大，内存必须能够独立于算力进行扩展。\n买算力是买算力，买内存是买内存。\n\n听起来很美好，但工程世界从没有免费的午餐。\n这条路上至少横着三道硬关。\n第一关是时间表。\n目前展出的硬件还停留在流片前的实验室验证阶段。\nMarvell 官方给出的客户样片交付时间，要等到 2027 年。\n未来两三年里，数据中心还得继续忍受被绑定买显卡的痛苦。\n第二关是成本现实。\n这台设备为了凑齐 32TB，需要插满 128 根 256GB 的高密度内存条。\n偏偏现在全行业赶上内存大缺货。\n服务器级别的 DDR5 内存价格一路狂飙，现在的价格差不多是危机前的 5.5 倍。\n原本想靠它省下买显卡的钱，结果光是插满这些内存条，就是一笔巨款。\n第三关，也是最关键的关卡：英伟达。\n靠卖整套芯片赚取高额利润的英伟达，绝不可能在旁边干看着。\n事实上，黄仁勋早就做好了对冲准备。\n英伟达不仅手里握着价值 20 亿美元的 Marvell 股份，还在推进自己的 BlueField-4 数据处理器，专门负责长文本上下文的内存调度。\n与此同时，他们投资了同样做内存池化技术的 Enfabrica，自家的共封装光学路线图也在往前推。\n\n一边是试图用光纤把内存从芯片里解耦出来的挑战者。\n一边是手握算力生态、随时准备用自有护城河防守的巨头。\n大模型越变越聪明，上下文越拉越长。\n这场围绕 32TB 内存的争夺，迟早会从铜线烧到那根比头发丝还细的光纤上。","topic":"显卡沦为最昂贵内存控制器：32TB光纤内存池能打破英伟达算力绑定吗？","frame_type":["机制"],"citations":[],"channel_note":"","identity_notice":"","source_type":"generated","status":"published","generated_at":"2026-10-24 06:18:51","legal_anchor_count":0,"transcript_citation_count":0,"seo_title":"显卡沦为最昂贵内存控制器：32TB光纤内存池能打破英伟达算力绑定吗？","description":"大模型长上下文与智能体催生海量 KV 缓存，受制于铜线 1.5 毫米封装极限，算力中心被迫通过加购整张显卡来扩充显存。Marvell 展出的光纤内存模块通过 32TB 共享内存池实现算力与内存解耦，但面对 2027 年交付周期、DDR5 涨价 5.5 倍以及英伟达的软硬件对冲，光互联内存革命仍有硬仗要打。","domain":"chips","domain_label":"芯片与硬件","domain_label_en":"Chips & Hardware","domain_url":"https://mubeitech.com/deep?domain=chips","canonical_url":"https://mubeitech.com/deep/mb-20261024-d9f5af","markdown_url":"https://mubeitech.com/deep/mb-20261024-d9f5af/markdown","json_url":"https://mubeitech.com/api/interpretations/mb-20261024-d9f5af","published_at":"2026-10-24T06:18:51Z"}