Anthropic 一家做大模型的软件公司,正在把 15 个吉瓦(GW)的算力直接压给博通的专用芯片。 15 个吉瓦是什…
Anthropic 一家做大模型的软件公司,正在把 15 个吉瓦(GW)的算力直接压给博通的专用芯片。 15 个吉瓦是什么概念? 相当于 15 座大型核电站机组的满负荷输出,或者整座纽约市在用电高峰时的全部电力负荷。 这家原本给谷歌和亚马逊做模型的软件实验室,2027 年要部署 5 个吉瓦的 TPU v8i,2028 年还要再追加 10 个吉瓦。 它将一举超过谷歌,变成博通全球最大的定制芯片客户。 另一边的 OpenAI 也在干同一件事。 OpenAI 自研的第一代推理专用芯片 Jalapeño 刚刚开始量产出货,2027 年要部署 1.3 个吉瓦,2028 年目标直接拉到 5 个吉瓦以上。 华尔街大部分人还在盯着英伟达卖了多少张通用显卡。 为什么两家最顶尖的模型公司,算力规模一旦冲到吉瓦级别,都不约而同绕开了英伟达? 答案藏在半导体物理与电网配电的一条硬约束里:定制硅分流。 算力扩张到了吉瓦这个量级,真正的瓶颈早就不是买芯片的预算,是变电站的审批和电网的物理承载力。 电力成了限制智能扩张的硬天花板。 英伟达的通用显卡为了兼顾各种科学计算、图形渲染和前沿算法探索,芯片上留了大量冗余电路、复杂的通用调度模块和高精度计算单元。 这些通用设计,每分每秒都在耗电。 但当模型架构在工业级推理场景下固定下来,每天要处理几十亿次请求时,那些为了通用性保留的电路就变成了纯粹的电力浪费。 专用芯片做的事情,是把所有多余的电路全部砍掉。 它把模型最核心的矩阵乘法和数据传输通道直接固化在硅片上。 在固定的电力预算下,专用芯片的能效比可以达到通用显卡的 2 到 3 倍。 同样是一座 5 吉瓦的数据中心,用专用芯片能跑出来的推理吞吐量,能翻上一倍到两倍。 省下几十亿美元电费只是附带结果,更关键的是直接突破了电网给每个数据中心划定的功率死线。 很多人会问:既然是自研芯片,为什么它们都要找博通? 因为把数十万颗芯片连在一起,算力只占一半,另一半全在高速互联。 芯片算得再快,数据如果卡在传输通道上,芯片就会在空转中白白烧电。 博通手里握着全球顶级的 SerDes 高速接口技术、Tomahawk 交换机芯片和先进封装连接专利。 模型公司负责出算法架构,博通负责把这些计算核心用极低延迟的高速通道绑成一个庞大的算力集群。 这条路径让模型公司同时甩掉了两道枷锁:一道是第三方通用芯片 70% 以上的毛利溢价,另一道是公有云厂商层层加价的租赁成本。 算力竞赛的底层规则已经变了。 探索期买通用显卡找方向,规模化部署就必须走专用芯片抢电网。 未来的顶级人工智能竞争,不看谁囤了更多显卡。 看谁能把变电站输进来的每一瓦电力,以最高的效率换成智能。
翻译视频 / X
相关 / RELATED
JSON导出 / EXPORT
订阅 · SUBSCRIBE
每周一封信号简报,重大进展可选即时推送。