提问38000次等于一颗巴旦木:Sam Altman的算术与数据中心的真实散热账
吃一颗加州巴旦木耗费的水,够向 ChatGPT 连续提问 38000 次。 这是 Sam Altman 在访谈里给出的一个对比。 他说,现代超大型数据中心的耗水量,其实跟一栋普通的商业写字楼差不多。 大家平时随手抓一把巴旦木当零食,连吃十几颗,没人觉得自己浪费了水。 那凭什么问几次 AI,就背上了把水资源榨干的舆论包袱? 38000 次提问等于一颗巴旦木,这笔账到底是怎么算出来的? 先看巴旦木。 加州生产了全球八成以上的巴旦木。 按照农业全生命周期的测算,一棵巴旦木树从开花、授粉、常年漫灌到最终挂果,产出一颗合格的巴旦木,平均要消耗大约 12.3 升水。 12.3 升水,相当于 24 瓶常见的小瓶矿泉水。 如果把这 12.3 升水除以 38000 次提问,每次提问分摊到的水量,只有 0.32 毫升。 0.32 毫升是什么概念? 普通滴管的一滴水大约是 0.05 毫升,0.32 毫升大概就是 6 滴水。 连一茶匙的十五分之一都不到。 如果你只是让大模型写个通知、查个生词,服务器散发热量消耗的水,确实只有这几滴。 那之前流传极广的耗水传闻又是打哪来的? 2023 年,加州大学河滨分校的研究团队发过一篇传播很广的学术论文。 论文里给出了一个流传至今的数据: 向 ChatGPT 提问 20 到 50 个问题,就会喝掉 500 毫升水,也就是整整一瓶矿泉水。 折算下来,提问一次要耗水 10 到 25 毫升。 一个是 0.32 毫升,一个是 25 毫升。 两个数字之间差了整整 70 多倍。 为什么会有这么巨大的鸿沟? 把背后的工程细节拆开看,会发现双方统计的口径完全不同,而且刚好撞上了数据中心冷却技术的更新迭代。 两年前的大模型训练和推理,大量依赖老式数据中心。 几万张 GPU 芯片挤在机柜里全力计算,热量极高,当时普遍采用的是开式蒸发冷却塔。 这种设备的工作逻辑就像人出汗。 把滚烫的循环水喷洒到冷空气中,靠水蒸发带走潜热。 热量排到大气里,水分也变成水蒸气直接飞走了。 一到夏天,外界气温超过 30 摄氏度,一座老式大型数据中心每天能蒸发掉几百万升干净的自来水。 加州大学的研究人员在计算时,统计的就是这种蒸发水耗。 并且他们还算上了间接用水:火电厂和核电厂发一度电,蒸汽轮机散热同样需要蒸发大量的水。 把电厂消耗的水加上冷却塔蒸发的水,按当时早期的 GPT-3 模型一除,就得出了几十次提问消耗半瓶水的结果。 但现代新建的超大型数据中心,正在迅速淘汰这种大汗淋漓的降温方式。 新一代算力中心开始全面采用闭环液冷与干冷技术。 原理就像家用汽车发动机里的防冻液循环系统。 特制冷却液在密封的铜管和均热板里高速循环,直接贴在芯片发热处把热量抽走。 液体流经室外的风冷散热排,靠巨大的风扇吹风把热量排掉,降温后的液体重新流回机房。 整个水路是完全焊接封闭的。 管道里的水循环成千上万次,不会直接蒸发到室外空气中。 只要系统不出现物理泄漏,这部分冷却水基本不需要频繁补水。 在这种架构下,整栋数据中心建筑平时消耗的水,主要变成了在场工程师上厕所、洗手和拖地的日常保洁用水。 这正是 Altman 敢拿写字楼作类比的技术依据。 全球数据中心密度最高的美国弗吉尼亚州,其联合立法审计委员会在 2024 年底做过全州水资源专项审计。 审计结果证实:当地绝大部分单个数据中心建筑的市政耗水量,确实等于甚至低于同等体量的普通商业办公楼。 那是不是意味着,大模型耗水的担忧完全多余了? 物理定律从来不给免费的午餐。 闭环液冷确实把水省下来了,但它把散热的代价转移给了电力。 水蒸发的降温效率极高,一公斤水蒸发可以吸收 2260 千焦的热量。 一旦放弃蒸发,纯靠风机强行吹风散热,耗电量就会大幅飙升。 尤其是在炎热的盛夏,外界气温一旦逼近 40 摄氏度,单纯的风冷无法压住上百兆瓦的算力热量,依然必须开启辅助喷淋蒸发。 弗吉尼亚州的审计报告里同样写着另一组事实: 全州虽然大部分机房耗水普通,但有 11 座超级数据中心,每栋一年的实际耗水量依然超过了 5000 万加仑,最高的一栋消耗了 2.43 亿加仑。 更现实的问题在于地理位置的极端集中。 加州的巴旦木树分散在中央山谷绵延几百公里的农田里。 而数据中心往往集中在一个县甚至几个街区之内。 对单个用户而言,提问一次耗费 6 滴水确实微小到可以忽略。 但当全球每天产生数十亿次请求,当庞大的算力负荷集中砸向几个局部城镇的水电管网,局部的资源挤兑依然是无法回避的工程现实。 随着深度思考模型成为主流,一次复杂推理动辄运算几十秒甚至几分钟,单次交互消耗的能量与散热需求,也在悄悄离开这 6 滴水的起点。 Altman 拿巴旦木打的比方在算术上成立,也准确描述了闭环冷却带来的工程进步。 但在离开微观算术走向宏观现实的时候,支撑这套算力运转的物理系统,依然在老老实实称量着每一度电和每一滴水的重量。
引用 / CITATIONS
No citations exported.
同领域解读 / AI & LLMS
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。