深度解读芯片与硬件generatedpublished

显存挪到50米外:硅光互联如何解开AI显卡的内存锁

机制

把原本只能贴着显卡放的显存,一口气挪到了50米外。

Marvell 的网络业务主管 Dave Lazovsky,手里捏着一个只有火柴盒大小的模块。 他正在演示的东西,把算力架构里最头疼的一堵墙拆掉了。

以前造显卡,高带宽显存(HBM)和 GPU 必须当连体婴儿。 中间有多近? 1.5 毫米。 多一毫米都不行。

为什么非要贴这么近? 因为走的是铜线,传的是电信号。 要喂饱 GPU 的计算核心,显存每秒钟得倾泻出几千吉字节的数据。 只要走铜线,距离稍微拉长几厘米,信号衰减立刻失真,高频电流产生的热量能把板子烤糊。 所以工程师没办法,只能把显存晶片紧紧贴在 GPU 核心旁边,挤在同一块微米级的基板上。

这就带来了一个极大的麻烦。 算力和显存被死死锁在了一起。 现在的大模型,上下文越拉越长,参数越来越多。 很多推理任务,GPU 的计算核心其实根本没跑满,但显存先爆掉了。 你想单加显存? 对不起,加不了。 基板就那么巴掌大一块地方,散热和走线已经塞到了物理极限。 唯一扩容的办法,就是逼着你再去买几张极其昂贵的整卡。 为了多喝一口水,你必须再买一套饮水机。

Lazovsky 团队展示的 Photonic Fabric 技术,彻底换了条路: 不走铜线,改走光。 电信号刚从计算芯片出来,立刻就地被微型激光器转成光信号,顺着细光纤打出去。 光在玻璃纤芯里穿梭,衰减小到几乎可以忽略,既没有铜线的电阻发热,也不怕电磁干扰。 原本只能挪动 1.5 毫米的距离,瞬间被拉长到了 50 米。

50 米意味着什么? 不仅能拉出服务器,还能跨越机柜,穿过整个数据中心机房。 更关键的是延迟。 光互联的传输延迟依然控制在几百纳秒内。 在内存访问的实用尺度里,这个时间差完全可以忽略,GPU 感知不到显存其实远在几十米外。

从此以后,算力和内存两条腿各自迈步。 显存不再是显卡的专属挂件。 你可以把成百上千条 HBM 和普通内存集中放在单独的机柜里,池化成一个通用的超级内存海。 哪个计算节点缺显存,拉一根光纤瞬间调拨;算完了立刻释放,留给下个任务。 不用再为了凑显存去硬买多余的 GPU。

几毫米里的铜线死局,换成光之后,直接换来了整片机房的自由。

同领域解读 / CHIPS & HARDWARE

查看全部「芯片与硬件」解读 →

规范引用 / CANONICAL CITATION

显存挪到50米外:硅光互联如何解开AI显卡的内存锁 — 墓碑科技 MUBEITECH(https://mubeitech.com/deep/mb-20261020-77cbc4)

导出 / EXPORT

订阅 · SUBSCRIBE

每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。

不追踪邮件打开与邮件链接点击,一键退订。 或用 RSS · 详情