原本必须死死贴在 GPU 脸上 1.5 毫米的显存,被一口气拉到了 50 米外。 整整拉远了三万多倍。
原本必须死死贴在 GPU 脸上 1.5 毫米的显存,被一口气拉到了 50 米外。 整整拉远了三万多倍。 显存必须紧挨着算力芯片的物理铁律,被打破了。
在纽交所的演播室里,美满电子(Marvell)的高管戴夫·拉佐夫斯基(Dave Lazovsky),指尖捏着一个方寸大小的模块。 模块银框黑底,尾部垂着一束纤细的光纤。 这是 Marvell 首次对外展示的光互连高带宽内存模块。
指甲盖大小的底座上,集成了两叠高带宽内存(HBM),还能扩展支持八叠 DDR5。 它是怎么突破物理极限的? 靠光子网络。 过去铜线走电信号,跑太远信号就衰减失真,换成光互连,传输距离直接放宽到 50 米。
把显存拉这么远,图什么? 图的是把算力和显存彻底松绑。 在现有的架构里,显存被焊死在计算芯片旁边。 大模型参数暴涨,显存不够用,你只能捏着鼻子连同最贵的算力核心一起捆绑加购。
一旦用光互连解耦,数据中心的玩法全变了。 按拉佐夫斯基现场给出的架构,单台设备能塞进 32 到 33 TB 的超大显存,跑出 115 Tbps 的光互连带宽。 这意味着数据中心可以在 50 米外,单独搭建集中的“显存农场”。 GPU 算力不够加算力,显存吃紧扩显存。
这目前还是 Marvell 端出的技术架构展示,从原型走向机房规模商用部署,还有工程关要过。 但用光通信拆掉铜互连的物理篱笆,方向已经明牌了。 算力归算力,显存归显存。 AI 军备竞赛底层的经济账,要重算了。
翻译视频 / X 同步发布
近期实时流信号 / STREAM SIGNALS
返回实时流 →- [M]科技巨头财报里的AI开支,少算了一万多亿美元。 钱去哪了? 全藏在还没生效的租赁合同里。 摩根士丹利最近做了一笔测算。
- [W]今年前六个月,俄罗斯亚马尔(Yamal)液化天然气基地一共开出了140船货轮。 其中136船,全开进了欧洲港口。
- [M]X 对“为你推荐”流的两阶段排序算法,动了真格。 流量的指挥棒,全面倒向了两个指标。 停留时间有多长? 有没有把帖子完整读完?
- [M]天天有人骂川普"亲俄"。 美财长贝森特把账本往桌上一拍,全场安静了。 到底是谁在给俄罗斯的战争机器输血? 答案是欧洲。
- [M]特斯拉 Roadster 火箭版,成了一辆单座车。 副驾去哪了? 副驾被一个 400 升的碳纤维高压储气罐占了。
首发与规范引用:墓碑科技 MUBEITECH(https://mubeitech.com/p/2112437556445106638) · X 同步推文:https://x.com/i/status/2112439984892350632
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。