Colossus 2 扩容至 120 万张显卡:交换机接口与旧仓库里的物理竞速
为什么马斯克在孟菲斯扩建超级算力,每次加显卡都必须是整整 22 万张? 不能先买五千张试试水,也不能买十万张凑个整。 只要一加,就是一模一样的一大批:22 万张。 算力难道也有这种固定的起步门槛吗? 有。 把这个数字卡得死死的,是网络交换机上的光纤插孔。 2026 年底,马斯克的 Colossus 2 算力园区,要塞进将近 120 万张英伟达 Blackwell 架构的顶级显卡。 两年前的第一代 Colossus,一共部署了 23 万张显卡。 当时为了训练大模型,122 天在旧家电厂里平地拔起,已经震惊了整个硅谷。 现在的第二代直接把规模翻了五倍多。 更有意思的是机房的名字。 除了调侃老对手微软的 Macrohard、Macroharder 和 Minihard,还有两个新机房。 一个叫 Gun Range,也就是射击靶场。 一个叫 Spam,就是大家吃的那种午餐肉罐头。 这可不是工程师随口起的玩笑代号。 射击靶场机房,是真买下了孟菲斯警察局的旧靶场改建的。 午餐肉机房,也是真直接改造了荷美尔食品公司堆放午餐肉的废弃冷库。 为什么要把机房分得这么稀奇古怪? 对比一下这两座机房的配置,差别一清二楚。 射击靶场机房装了 22 万张 GB300 显卡,专门拿来做大模型训练。 每张显卡都配着 800G 高速网卡,机房里密密麻麻拉满了光纤。 午餐肉机房也装了差不多 20 万张 GB300,但它不做训练,专门跑推理。 配置立刻变了样。 网络结构大幅简化,光纤用量连射击靶场的一半都不到。 同样是几十万张顶级芯片,为什么待遇差这么多? 因为训练和推理,底层对网络的要求根本不是一回事。 训练大模型的时候,22 万张显卡是在合力算同一个极其庞大的数学题。 每算完一步,所有显卡都必须在几毫秒内交换数据、同步梯度。 只要有一张卡卡顿,或者一根光纤丢了数据包,剩下的二十多万张卡全得原地歇工等待。 单个机柜内部可以用高带宽铜线连起来,机柜之间就必须全部靠高密度光纤拉进核心交换机。 这时候,物理极限的冷水就泼下来了。 一台顶级的交换机,上面能插的光纤接口数量是有物理上限的。 在保证无拥塞、零丢包的网络架构下,光纤端口的密度算下来,单次扩容的数学上限正好就是 22 万张卡左右。 马斯克把这个叫步长。 网络拓扑决定了集群的物理边界,你想扩容,就只能按这个整数倍一组一组往上堆。 推理就完全不同了。 模型已经训练好了,推理的任务是回答无数用户的日常提问。 一个机柜甚至几十张卡,就能把整个模型装进去独立跑。 这个用户发一段文字,这一组卡负责回答。 那个用户发一张图片,那一组卡负责处理。 它们之间不需要跨机房进行毫秒级的参数同步。 所以把 20 万张显卡塞进卖午餐肉的旧仓库,根本不用拉那么多昂贵复杂的光纤网络。 只要通上电,接上基础网络,它们就能开工干活。 至于为什么要在孟菲斯到处收购买旧靶场和午餐肉冷库? 因为时间。 如果要从一片荒地上新建一座容纳百万张显卡的算力中心,光是审批、环评、设计再加上等电网扩容,通常要耗上三到五年。 在激烈的大模型长跑里,谁也等不起三年。 买旧工业厂房,地上原本就有重工业用电的审批底子和大跨度的承重空间。 电网供电一时跟不上,就先拉来大型储能电池和移动式燃气轮机顶上。 白天是挖掘机在旧靶场里破土施工,午夜是工程团队带着图纸在冷库里通宵穿线。 当很多人还在讨论算力算法是不是只存在于代码和云端的时候,真实世界的竞争早就打到了钢筋水泥和物理接口上。 从靶场里的光纤插孔上限,到火腿仓库里的电力布线。 谁能用最快的速度把物理世界的限制啃下来,谁才能在硅基世界里拿到真正的门票。
同领域解读 / AI & LLMS
规范引用 / CANONICAL CITATION
Colossus 2 扩容至 120 万张显卡:交换机接口与旧仓库里的物理竞速 — 墓碑科技 MUBEITECH(https://mubeitech.com/deep/mb-20261101-8f8b83)
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。