深度解读AI 与大模型generatedpublished

顶尖AI模型开发者调用量从55%暴跌至14%,重资产大模型面临商业化定价考验

机制

全球最顶尖的十个AI模型,一年前还吃着开发者超过一半的流量。 到了今年,这个份额直接跌到了14%。 剩下八成多的调用量,全被更便宜的轻量模型抢走了。

这组数据来自OpenRouter,一个专门给全球几十万开发者提供模型接口调用的聚合平台。 科技媒体The Information把数据扒出来之后,在硅谷和华尔街引起了不小的震动。 AI学者加里·马库斯(Gary Marcus)在社交媒体上问了一句: 这会不会是所有AI独角兽上市的最后一颗棺材钉?

平时看各大实验室的模型发布会,大家都在拼命卷跑分、卷推理速度、卷谁在奥数题上比人类专家更厉害。 各家融了几百亿美元,买下全网最好的GPU和算力集群,奔着最聪明的超级大脑一路狂奔。 怎么一到真金白银掏钱写代码的时候,开发者反而集体跑去买便宜货了?

这就要看真实的软件开发到底在消耗什么了。 很多人以为开发者调用大模型,是在让它做高深的研究、写复杂的系统架构,或者思考高难度的业务逻辑。 但在生产环境里跑过实际业务的人都知道,系统里哪有那么多高深莫测的难题。

拿一个最常见的企业智能体来说。 用户在前台发来一句话,系统后台可能要连续调用几十次大模型。 第一步,先切开这句话,判断用户是想查快递、想退款,还是在发脾气骂人; 第二步,从数据库里捞出一堆杂乱的文档,把里面的姓名、订单号和收货地址抠出来; 第三步,把抠出来的信息重新排成工整的JSON数据格式; 最后一步,再把处理好的结果包装成一句礼貌的回复吐给用户。

看明白这个流程就会发现,这几十次调用里面,九成以上都是没有技术含量的格式化苦力。 从一段话里提取一个手机号码,需要爱因斯坦级别的智商吗? 把三行字排成一个标准表格,需要最强模型在后台深度思考三十秒吗? 完全不需要。 一个参数规模只有80亿或者700亿的轻量模型,干这些体力活的准确率早就超过了99%。

但是两者的账单差了多少? 顶尖的旗舰模型,比如Claude 3.5 Sonnet或者GPT-4o,每生成一百万个Token,价格在10美元到15美元上下。 开源或者轻量级的模型,比如Meta的Llama系列,或者各种专打速度的小模型,每生成一百万个Token只要0.1美元到0.3美元左右。 价格直接差了三五十倍。

对一个每天要处理几千万次API调用的企业来说,要是把所有脏活累活全扔给最贵的旗舰模型,月底的算力账单能直接把公司的利润吃得干干净净。 所以现在的开发者早就精明了。 他们普遍在系统里做了一套分流机制: 日常九成以上的分类、清洗、提取和格式化,全部派给便宜的小模型去跑; 只有当小模型实在卡壳了,或者真的碰上复杂的代码调试和逻辑推理,系统才会把这剩下的10%高难度任务交给最贵的顶尖模型。

这一套分流机制跑顺了,企业的成本是降下来了,却给顶尖大模型实验室的商业故事砸出了一个巨大的窟窿。 过去两三年里,头部大模型公司去华尔街讲的故事,全指望着智能的垄断性。 那个故事默认:只要我训练出全世界最聪明的模型,就能赢家通吃; 只要所有开发者都依赖我的高智力接口,我就能维持70%以上的软件毛利率,支撑起上千亿美元的高估值。

但OpenRouter这组14%的数据,把这个逻辑链条给切断了。 顶级智力更像是一辆造价极其昂贵的方程式赛车。 研发它需要消耗天文数字的显卡、电力和顶级人才,可市场在大规模采购的时候,八成以上的需求只是在街区送货的小货车。 大家只要便宜、皮实、按时送达,用不上时速四百公里的推背感。

大模型实验室背着每年几十亿美元的算力折旧和巨额训练账单,真正能卖出高价的复杂任务却只有那一小撮。 如果最聪明的大脑无法形成天然的垄断定价权,那些指望靠卖接口利润撑起千亿市值的上市预期,到了向公开市场交财务报表的时候,该拿什么去算平这笔账?

引用 / CITATIONS

No citations exported.

同领域解读 / AI & LLMS

查看全部「AI 与大模型」解读 →

导出 / EXPORT

订阅 · SUBSCRIBE

每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。

不追踪邮件打开与邮件链接点击,一键退订。 或用 RSS · 详情