其它·via @mubei
现在的一个AI机柜,重达7000磅。 也就是3吨多。 这台重型工业机器,规格远超普通的IT设备。 这是超微(Superm…
现在的一个AI机柜,重达7000磅。 也就是3吨多。
这台重型工业机器,规格远超普通的IT设备。
这是超微(Supermicro)为AMD下一代MI450x芯片准备的HELIOS机柜。 规格很粗暴:它比传统的19英寸标准机柜宽了一倍。 因为机柜太宽,买家们正在直接拆建机房的门,只为了能把这台庞然大物推进去。 毕竟在一台价值几百万美元的机柜面前,一扇门的改造成本不值一提。
平时所有人都在盯着GPU,但在算力背后,真正的瓶颈早就变了。 首先是内存。 最新的B300 HGX平台直接塞进了32个内存插槽。因为AI内存太贵,主板上必须提供足够多的插槽组合,系统才能勉强喂饱这些吃数据的怪兽。
接着是存储和散热。 接下来的Vera Rubin,以及各大ARM架构CPU,全都在冲刺PCIe Gen 6标准。 带宽直接起飞,但代价是致命的高温。 固态硬盘里的NAND闪存一热就会掉速,寿命也会极速缩水。
为此,连硬盘都要上液冷。 之前刚给xAI Colossus项目部署过十万张GPU液冷集群,现在的超微正在把管线接满整个机柜。 不仅是CPU和稳压器,内存被包进了循环,现在连E1.S规格的硬盘也都接上了液冷。 为了给散热和液冷管腾出足够的空间,传统的电源模块甚至被砍掉,直接改成母线排供电。