Vercel 创始人 Guillermo Rauch 披露了一组很有意思的数据
Vercel 创始人 Guillermo Rauch 披露了一组很有意思的数据。 在他们的开发者网关上,开源权重模型的 Token 消耗占比创下了历史新高。 两个月前的 6 月 24 日,闭源大模型还占据着 71.6% 的绝对大头,开源模型只有 28.4%。 到了 8 月 22 日,局面彻底颠倒。 开源模型的份额暴涨到了 62%,闭源模型直接缩水到了 38%。 短短六十天,整个行业的分词结构发生了一场静悄悄的倒灌。 为什么会这样? 如果看社交网络上的讨论,大家都在追捧最新、最贵、推理能力最强的闭源旗舰。 但为什么工程落地最前线的真实账单,却把超过六成的流量倒给了开源? 因为软件的调用形态变了。 过去人类使用大模型,是坐在聊天框前面单轮提问。 一个人一分钟最多读几百个词,哪怕每次都调用单价最高的顶配模型,一个月也花不了几块钱。 现在的 AI 正在离开对话框,进入后台的自动化智能体和命令行工具。 当代码开始在后台自主循环,Token 的消耗量被瞬间放大了成百上千倍。 一个智能体为了修复一行代码或抓取一组数据,可能要在后台执行几十次工具调用。 这些在后台跑来跑去的分词,九成以上都属于中间过渡环节。 它们负责格式对齐、参数校验、状态清洗、搜索过滤和重试循环。 行业里管这些叫计算脚手架。 用单价几美元的顶级闭源模型去跑海量的基础脚手架,账单会在几小时内被彻底击穿。 而开源模型只要跨过了性能及格线,分词成本能直接降下一到两个数量级。 工程师算得很精:把 90% 的脏活累活分流给廉价的开源模型,只把顶层 10% 最关键的裁决交给昂贵的闭源旗舰。 商业史上早就有一台现成的机器解释过这种演变。 哈佛商学院教授克莱顿·克里斯坦森在 2003 年提出过一个理论,叫利益守恒定律。 当一条产业链底层的核心模块越过及格线、变成随取随用的廉价商品时,整条链条的利润并不会凭空蒸发。 它会沿着接口向上迁移,转移到那个负责组织、调度和约束它的整合层上。 这正是开发者生态正在发生的事情。 底层模型的分词正在迅速商品化,变成类似自来水一样的廉价公共品。 而真正拉开系统差距、吃下核心价值的,变成了外层的调用脚手架与路由网关。 决定一套智能系统最终上限的,从来不是你在后台烧了多少昂贵的底座分词。 是在外面把控每一次分流、判定每一步对错的那套架构。
相关 / RELATED
JSON导出 / EXPORT
订阅 · SUBSCRIBE
每周一封信号简报,重大进展可选即时推送。