为什么 AI 算力都是长方形：Modal 如何把三年显卡合同切成 8 秒微型沙盒

你在云厂商那里买算力，买回来的全是一个个长方形。 横轴是时间，纵轴是显卡数量。 签三年合同，锁定一千张英伟达显卡。 画在坐标轴上，就是一个严丝合缝的长方形。 不管你这一秒有没有人用，这个长方形每分每秒都在扣钱。 但真实世界里的 AI 需求，从来不是长方形。 白天用户疯狂提问，算力波峰冲上云霄。 半夜大家关灯睡觉，机房利用率直接跌进地表。 更棘手的是写代码的智能体。 智能体从来不按小时租服务器。 它思考完了，突然拉起几十个隔离环境跑测试。 八秒钟测完，立刻销毁。 按峰值买长方形吧，平时七成昂贵的显卡都在机房里吃灰。 按平时用量买吧，高峰期系统瞬间卡死，用户全在排队报错。 买多了亏本，买少了挨骂，这怎么玩？ 做 AI 基础设施的公司 Modal，刚刚干了一件很轰动的事。 他们拿下 7.5 亿美元的 D 轮融资，估值冲到 160 亿美元，年经常性收入跨过 10 亿美元。 联合创始人兼首席执行官埃里克（Erik Bernhardsson），把自己的这门生意称为算力世界的期限转换。 期限转换本来是个银行业词汇。 商业银行怎么赚钱？ 银行吸收随时可能被取走的活期存款，转手贷成期限长达三十年的固定房贷。 Modal 在底层干了反向的期限转换。 底层机房里，各家大厂和算力中心卖的依然是死板的长期长方形合同。 埃里克在全球各地到处扫货。 大到顶级数据中心，小到亚美尼亚的 32 台节点、印尼的 128 台节点，只要网络带宽和读写速度达标，全给打包买下来。 上层应用端，Modal 聚集了数千家 AI 客户。 做视频生成的 Runway、做音乐生成的 Suno、做编程智能体的 Cognition，全在这套平台上跑。 大数定律在这里发挥了威力。 一千家客户的波峰和波谷在时间轴上相互对冲。 你的波谷正好接上他的突发峰值，不同时区、不同模型的调用错落交织。 原本在单家企业手里上蹿下跳的波浪线，汇拢到一起，变成了一条极其平稳的算力总需求。 道理听起来顺理成章，为什么老牌云计算巨头过去做不到？ 因为显卡按秒计费，卡在极其要命的工程底座上。 普通服务器启动一个代码片段，几十毫秒就能拉起来。 大语言模型动辄几十个吉字节（GB）的参数。 在传统的容器和集群环境里，如果要动态调配一张显卡： 系统要分配物理机，从远端网络下载几十吉字节的权重文件，再把参数从内存倒进显存，最后初始化底层计算环境。 整个冷启动过程短则两分钟，长则五分钟。 智能体执行一段代码只要八秒钟，让你在门外干等三分钟显卡开机，弹性计费彻底沦为空谈。 算力如果不能在几百毫秒内送达，弹性就毫无商业价值。 Modal 没有去给旧时代的集群管理软件套壳，他们把整套底层重新写了一遍。 自研流式文件系统，模型权重不用全量下载，随用随读。 显存快照与进程检查点技术，直接把已经在显卡里加载好的模型状态冻结保存，几毫秒内就能从存储里唤醒并瞬间塞满显存。 常备预热的显卡缓冲池，随调随给。 这一套硬核系统工程搭下来，Modal 平台上的沙盒容器，运行时间中位数只有 8 秒。 有意思的是，撑起今天爆发式增长的核心支柱，两年前差点被他们亲手掐死。 2023 年的一天，埃里克和联合创始人阿克沙特（Akshat Bubna）一起吃午饭。 他们注意到大语言模型开始能吐出代码了。 两人当时琢磨：模型生成的不可信代码，总得有个安全的地方跑一下吧？ 阿克沙特花了两天时间，用轻量隔离技术搭了个沙盒原型推上线。 发布之后很长一段时间，几乎没人用这个功能，收入微乎其微。 到了 2023 年底，团队坐在一起严肃复盘，甚至已经在讨论要不要直接把沙盒业务关停。 结果，代码智能体时代毫无预兆地砸了过来。 大模型不再只是在编辑器里补全一行函数。 从独立写项目的 Devin，到各式各样自主找漏洞、跑测试的后台智能体，必须高频在隔离环境里运行并验证代码。 更凶猛的是前沿实验室的强化学习训练。 模型每秒钟生成成千上万个推理分支，全部需要丢进沙盒里立刻运行，靠执行结果拿到对错奖励反馈。 曾经濒临砍掉的沙盒，业务量以每个月 30% 的速度疯狂狂飙。 Modal 至今累计启动了接近 30 亿次沙盒，这块业务直接吞下了整整三分之一的公司收入。 商业逻辑往往伴随着对称的代价。 在金融市场，玩期限转换的银行最怕资产负债表错配。 算力云也是一样。 如果你在今天的高点签下三年昂贵的显卡租约，两年后算力市场供给过剩，或者下一代新架构芯片把旧显卡打成废铁，高价锁死的算力就会变成压垮公司的毒药资产。 埃里克自己算得很清醒：买算力不难，承担长方形的存货风险才是真正的刀尖跳舞。 模型更新换代的周期越来越快。 今天这个开源模型横空出世，明天那个新架构横扫榜单。 做模型的团队如果自己去背三年显卡长方形，一旦模型被对手超越，整套算力就会变成沉没成本。 能够把算力池切成毫秒级碎片、随时在不同模型之间自由挪移的底座，成了整个行业最需要的流动性集散地。 买算力签长方形的旧规矩，正在被这些按秒计费的碎片冲开缺口。 真实世界里的智能，从来就不是匀速消耗的。 承载它们的算力底座，终于也不必再装成一个死板的长方形了。