{"id":"mb-20261022-37800a","kind":"deep","title":"为什么 AI 算力都是长方形：Modal 如何把三年显卡合同切成 8 秒微型沙盒","summary":"传统云厂商按三年合同出售固定数量的显卡，在坐标轴上画出来是一个死板的长方形，但智能体与前沿模型的调用往往只有几秒钟脉冲。刚刚跨过 10 亿美元年收入的 Modal，通过类似银行业的“期限转换”汇聚数千家客户的波峰波谷，并用显存快照与轻量沙盒技术将启动延迟压到毫秒级，让算力真正按秒弹性交付。","body":"你在云厂商那里买算力，买回来的全是一个个长方形。\n横轴是时间，纵轴是显卡数量。\n签三年合同，锁定一千张英伟达显卡。\n画在坐标轴上，就是一个严丝合缝的长方形。\n不管你这一秒有没有人用，这个长方形每分每秒都在扣钱。\n但真实世界里的 AI 需求，从来不是长方形。\n白天用户疯狂提问，算力波峰冲上云霄。\n半夜大家关灯睡觉，机房利用率直接跌进地表。\n更棘手的是写代码的智能体。\n智能体从来不按小时租服务器。\n它思考完了，突然拉起几十个隔离环境跑测试。\n八秒钟测完，立刻销毁。\n按峰值买长方形吧，平时七成昂贵的显卡都在机房里吃灰。\n按平时用量买吧，高峰期系统瞬间卡死，用户全在排队报错。\n买多了亏本，买少了挨骂，这怎么玩？\n做 AI 基础设施的公司 Modal，刚刚干了一件很轰动的事。\n他们拿下 7.5 亿美元的 D 轮融资，估值冲到 160 亿美元，年经常性收入跨过 10 亿美元。\n联合创始人兼首席执行官埃里克（Erik Bernhardsson），把自己的这门生意称为算力世界的期限转换。\n期限转换本来是个银行业词汇。\n商业银行怎么赚钱？\n银行吸收随时可能被取走的活期存款，转手贷成期限长达三十年的固定房贷。\nModal 在底层干了反向的期限转换。\n底层机房里，各家大厂和算力中心卖的依然是死板的长期长方形合同。\n埃里克在全球各地到处扫货。\n大到顶级数据中心，小到亚美尼亚的 32 台节点、印尼的 128 台节点，只要网络带宽和读写速度达标，全给打包买下来。\n上层应用端，Modal 聚集了数千家 AI 客户。\n做视频生成的 Runway、做音乐生成的 Suno、做编程智能体的 Cognition，全在这套平台上跑。\n大数定律在这里发挥了威力。\n一千家客户的波峰和波谷在时间轴上相互对冲。\n你的波谷正好接上他的突发峰值，不同时区、不同模型的调用错落交织。\n原本在单家企业手里上蹿下跳的波浪线，汇拢到一起，变成了一条极其平稳的算力总需求。\n道理听起来顺理成章，为什么老牌云计算巨头过去做不到？\n因为显卡按秒计费，卡在极其要命的工程底座上。\n普通服务器启动一个代码片段，几十毫秒就能拉起来。\n大语言模型动辄几十个吉字节（GB）的参数。\n在传统的容器和集群环境里，如果要动态调配一张显卡：\n系统要分配物理机，从远端网络下载几十吉字节的权重文件，再把参数从内存倒进显存，最后初始化底层计算环境。\n整个冷启动过程短则两分钟，长则五分钟。\n智能体执行一段代码只要八秒钟，让你在门外干等三分钟显卡开机，弹性计费彻底沦为空谈。\n算力如果不能在几百毫秒内送达，弹性就毫无商业价值。\nModal 没有去给旧时代的集群管理软件套壳，他们把整套底层重新写了一遍。\n自研流式文件系统，模型权重不用全量下载，随用随读。\n显存快照与进程检查点技术，直接把已经在显卡里加载好的模型状态冻结保存，几毫秒内就能从存储里唤醒并瞬间塞满显存。\n常备预热的显卡缓冲池，随调随给。\n这一套硬核系统工程搭下来，Modal 平台上的沙盒容器，运行时间中位数只有 8 秒。\n有意思的是，撑起今天爆发式增长的核心支柱，两年前差点被他们亲手掐死。\n2023 年的一天，埃里克和联合创始人阿克沙特（Akshat Bubna）一起吃午饭。\n他们注意到大语言模型开始能吐出代码了。\n两人当时琢磨：模型生成的不可信代码，总得有个安全的地方跑一下吧？\n阿克沙特花了两天时间，用轻量隔离技术搭了个沙盒原型推上线。\n发布之后很长一段时间，几乎没人用这个功能，收入微乎其微。\n到了 2023 年底，团队坐在一起严肃复盘，甚至已经在讨论要不要直接把沙盒业务关停。\n结果，代码智能体时代毫无预兆地砸了过来。\n大模型不再只是在编辑器里补全一行函数。\n从独立写项目的 Devin，到各式各样自主找漏洞、跑测试的后台智能体，必须高频在隔离环境里运行并验证代码。\n更凶猛的是前沿实验室的强化学习训练。\n模型每秒钟生成成千上万个推理分支，全部需要丢进沙盒里立刻运行，靠执行结果拿到对错奖励反馈。\n曾经濒临砍掉的沙盒，业务量以每个月 30% 的速度疯狂狂飙。\nModal 至今累计启动了接近 30 亿次沙盒，这块业务直接吞下了整整三分之一的公司收入。\n商业逻辑往往伴随着对称的代价。\n在金融市场，玩期限转换的银行最怕资产负债表错配。\n算力云也是一样。\n如果你在今天的高点签下三年昂贵的显卡租约，两年后算力市场供给过剩，或者下一代新架构芯片把旧显卡打成废铁，高价锁死的算力就会变成压垮公司的毒药资产。\n埃里克自己算得很清醒：买算力不难，承担长方形的存货风险才是真正的刀尖跳舞。\n模型更新换代的周期越来越快。\n今天这个开源模型横空出世，明天那个新架构横扫榜单。\n做模型的团队如果自己去背三年显卡长方形，一旦模型被对手超越，整套算力就会变成沉没成本。\n能够把算力池切成毫秒级碎片、随时在不同模型之间自由挪移的底座，成了整个行业最需要的流动性集散地。\n买算力签长方形的旧规矩，正在被这些按秒计费的碎片冲开缺口。\n真实世界里的智能，从来就不是匀速消耗的。\n承载它们的算力底座，终于也不必再装成一个死板的长方形了。","topic":"为什么 AI 算力都是长方形：Modal 如何把三年显卡合同切成 8 秒微型沙盒","frame_type":["机制"],"citations":[],"channel_note":"","identity_notice":"","source_type":"generated","status":"published","generated_at":"2026-10-22 20:36:26","legal_anchor_count":0,"transcript_citation_count":0,"seo_title":"为什么 AI 算力都是长方形：Modal 如何把三年显卡合同切成 8 秒微型沙盒","description":"传统云厂商按三年合同出售固定数量的显卡，在坐标轴上画出来是一个死板的长方形，但智能体与前沿模型的调用往往只有几秒钟脉冲。刚刚跨过 10 亿美元年收入的 Modal，通过类似银行业的“期限转换”汇聚数千家客户的波峰波谷，并用显存快照与轻量沙盒技术将启动延迟压到毫秒级，让算力真正按秒弹性交付。","domain":"ai","domain_label":"AI 与大模型","domain_label_en":"AI & LLMs","domain_url":"https://mubeitech.com/deep?domain=ai","canonical_url":"https://mubeitech.com/deep/mb-20261022-37800a","markdown_url":"https://mubeitech.com/deep/mb-20261022-37800a/markdown","json_url":"https://mubeitech.com/api/interpretations/mb-20261022-37800a","published_at":"2026-10-22T20:36:26Z"}