击穿端侧内存墙:高通为何把数据中心HBC近存架构搬进骁龙?
为什么手机里的 AI 助手,到现在都只能帮你修个图、润色一句废话? 一旦让它干点正事,比如通读几十页文档、连续推理几个回合,手机立刻烫得像块暖手宝,电量肉眼可见地往下掉。 很多人以为是手机芯片算力不够。 根本不是。 芯片里的计算核心早就闲得发慌了。 把手机卡死、把电池抽干的,全在搬运数据这件事上。
大语言模型吐字的过程,非常反直觉。 它每在屏幕上敲出一个词,芯片就得把整个模型的全部参数,从内存里完完整整读一遍。 哪怕只是一个压缩后的 80 亿参数小模型。 吐出区区一个词,芯片就要从内存里搬运 8 个 G 的数据。 如果想让 AI 像真人一样,一秒钟噼里啪啦吐出 30 个词。 一秒之内,芯片就必须在内存和计算核心之间,来回搬运 240G 数据。
算加减乘除根本不怎么耗电。 真正要命的是路程。 半导体物理学里有一笔谁都绕不开的隐形成本:数据搬运税。 芯片做一次数学运算,消耗的能量微乎其微。 但要把几百 G 的参数从旁边的内存芯片里拔出来,穿过电路板上的铜线和焊点,千里迢迢运进计算核心,消耗的能量是计算本身的几十倍甚至上百倍。 手机电池就是这么被活活吸干的。
机房里的巨型显卡是怎么解决这个问题的? 用高带宽内存,也就是 HBM。 把几层特制内存叠起来,用昂贵的硅中介层胶水贴在图形处理器旁边。 靠着几千根密密麻麻的引脚,当代顶级的 AI 加速器能把总带宽拉到每秒 21 到 24 TB。 但 HBM 是个不折不扣的电老虎。 一张加速卡动辄上千瓦功耗,背后必须挂着巨大的水冷排。 把这套东西塞进手机? 哪怕体积压得进去,几分钟就能把手机电池烧穿。
所以主流旗舰手机用的依然是低功耗内存 LPDDR。 平时刷网页、打游戏绰绰有余。 但它的传输带宽通常只有每秒几十到一百 GB 出头。 面对每秒需要几百 G 吞吐量的大模型,这根吸管太细了。 算力核心只能坐在那里饿着肚子干等。 这就是半导体行业著名的内存墙。
在 2026 年 9 月的骁龙峰会上,高通端出了一项颇有掀桌子意味的技术。 他们宣布把原本为数据中心 Dragonfly 加速卡研发的 HBC 技术,直接下放到手机骁龙芯片上。 HBC 全名叫高带宽计算(High Bandwidth Compute)。 高通的做法很野: 他们没碰贵上天的 HBM,直接盯上了手机上成熟又省电的 LPDDR 内存。 以往手机封装芯片,内存横着焊在芯片旁边,信号要在主板上跑长跑。 高通这次直接在芯片上打洞。 利用硅通孔技术,也就是 TSV。 工程师在芯片晶圆内部,垂直打出成千上万个微米级的微型金属通道。 然后把几层特制的 LPDDR 内存,直接扣在计算核心的天灵盖上。 这叫近存计算。 数据要跑的路程,瞬间从电路板上的几毫米甚至几厘米,缩短到了几微米。
路程缩短了几千倍,效果有多凶悍? 数据中心里由昂贵硅中介层拼起来的顶级 HBM,总带宽通常在 21 到 24 TB/s。 而高通这种直接骑在芯片头顶上的 HBC,在数据中心加速卡 AI250 上,有效内存带宽直接飙到了 133 TB/s,系统级吞吐量能冲到数百 TB/s。 更夸张的是能耗比。 因为省去了长距离信号传输的损耗。 在相同的功耗下,HBC 的有效带宽是 HBM 的 6 倍,处理字符元的吞吐效率同样提升了 6 倍。
高通首席执行官克里斯蒂亚诺·阿蒙在现场算过一笔账: 未来真正好用的端侧 AI 智能体,不该只是被动回答一句两句。 它要在后台全天候替你读邮件、拆任务、调用工具,一天下来可能要消耗上百万个 token。 按照旧架构的跑法,手机随身带两块充电宝都撑不住一天。 而用垂直微米通道把数据搬运税打掉之后, 手机不用再把所有数据送去云端机房,在本地就能扛住高密度的连续推理。
目前三星和 SK 海力士已经在配合高通,开发这种专用的垂直堆叠 LPDDR 芯片,台积电则负责先进封装。 手机厂商过去两年天天喊的端侧 AI,受制于发热与内存带宽,绝大部分时候不过是个营销噱头。 只有当物理层面的内存墙被垂直打穿, 那颗被困在手机里的本地智能体,才算拿到了能干活的饭碗。
引用 / CITATIONS
No citations exported.
同领域解读 / AI & LLMS
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。