思想的跳水价:为什么在今天拼命给AI降本可能是一场巨大的工程浪费?
如果一个技术团队花整整半年,拼命把 AI 调用的成本砍掉了 70%,算不算重大立功? 在今天,这很可能是一笔彻底被浪费的工程开销。
不少技术团队现在都在拼命做这件事。 大模型用起来太贵,于是工程师天天加班搞蒸馏、搞剪枝、改提示词、自建本地小模型。 好不容易把每次调用的 API 账单从一毛钱抠到了三分钱。 结果刚上线没两个月,底座大模型一升级,同样的智力水准,官方调用费直接跌到了几厘钱。 技术团队耗费半年的工程攻坚,一瞬间全成了毫无意义的沉没成本。
沃顿商学院的教授伊森·莫里克(Ethan Mollick)在社交平台上发了一张走势图。 他给所有正忙着给 AI 方案抠成本的人提了个醒: 在眼下这个阶段,为某个具体的解决方案拼命做成本优化,很可能极其短视。 因为智力的价格,正在以人类工业史上从未见过的速度雪崩。
这张图来自研究机构 Epoch AI 刚发布的一份重磅报告。 报告的名字很有意思,叫《思想的跳水价》(The Plunging Price of Thought)。 研究员卢克·恩伯森(Luke Emberson)和戴维·鲁德曼(David Roodman)做了一次非常扎实的测算。 他们拉出 2023 年以来的全部真实评测数据。 覆盖了数学竞赛、博士级专业考试以及各种高难度博弈测试。 然后算了一笔账: 如果要让 AI 达到某个固定的智力水准,比如在这些顶级硬核考题上拿到 25% 或者 75% 的分数,到底要花多少钱? 结果发现,跨过这个门槛的推理成本,正在以每个季度暴跌 47% 的速度往下跳。
每个季度跌掉将近一半。 折算下来,一年暴跌 13 倍。 在最考验逻辑推理的数学领域,跌得甚至更狠,每季度跌 50% 到 52%。
一年便宜 13 倍是什么概念? 我们熟悉的摩尔定律,芯片上的晶体管每 18 个月翻一番,算力成本每 18 个月腰斩一次。 这已经是过去半个世纪整个人类科技进步的底座了。 但大模型推理成本的崩塌速度,比摩尔定律整整快了 6 倍。 它比人类基因测序成本著名的跳水曲线,快了 4 倍。 比锂电池的降价速度,快了 18 倍。 比 1973 年之前整整一百年里人类电力的成本下降,快了 54 倍。 从蒸汽机发明到现在,人类从来没有在哪一项底层生产力上,经历过如此疯狂的超级通缩。
报告里给出了一个极其震撼的真实账单。 GPQA Diamond,这是全球顶尖大模型最怕的考卷之一。 试卷全是物理、化学、生物学的博士级难题,普通博士开卷考往往也只能拿个三四十分。 2025 年 1 月,OpenAI 推出了专门擅长多步推理的 o3 模型。 o3 在这张地狱级试卷上拿到了 75% 的高分。 当时每解答一道题,平均要消耗价值大约 0.3 美元的 Token。 折合人民币两块多钱一道题。 贵吗?确实贵。 如果一个高校或者实验室每天想用它筛几万个科研假设,一个月几万美金就出去了,普通团队根本用不起。 可仅仅过了 18 个月。 最新跑出 75% 相同分数的模型,是 GPT-5.6 Luna。 它做对同样一道博士级难题,成本是多少? 0.0004 美元。 折合人民币不到三分钱的三厘,差不多两毫钱。 18 个月的时间,同样水准的硬核智力,价格砸掉了 725 倍。
这就是为什么说,在今天拼命给 AI 方案抠成本是极其危险的。 在传统的软件工程里,服务器、带宽和数据库的单价是极其稳定的。 你花半年时间重构代码,把服务器开销省下 30%,这笔节省在未来三年里都是实打实的利润。 但在今天的 AI 领域,工程师是在跟一条超音速下坠的成本峭壁赛跑。 更要命的是,为了省下眼前几毛钱的推理费,很多团队选择把系统做窄: 砍掉长上下文,砍掉反思步骤,把通用大模型换成定制的小模型。 原本可以随着底座模型一起自动进化的系统,被硬生生锁死在了当下的版本里。 你费尽心血造了一辆极致省油的自行车。 刚骑出胡同口,路上的高铁已经通车了,而且票价还便宜得像免费。
十九世纪的英国经济学家威廉·斯坦利·杰文斯曾经观察过一个神奇的现象: 瓦特改良蒸汽机之后,每匹马力消耗的煤炭大幅减少。 按常理推断,全英国的煤炭消耗量应该往下走才对。 结果恰恰相反,英国的煤炭总消费量爆发式增长了十几倍。 因为当动力的成本便宜到一定程度,它就会把原来因为太贵而根本不存在的市场,整个炸开。
今天的思维成本正在经历完全相同的过程。 当博士级的推理能力从一道题两块钱,跌到一万道题只要四块钱的时候,省钱就已经不再是核心竞争力了。 聪明的团队根本不会忙着削减 Token。 他们会利用跳水的成本,去搭那些过去想都不敢想的高算力架构: 遇到复杂决策,让几个不同的模型展开五轮交叉论证。 写一段代码,自动跑几十轮攻击测试和边界校验。 把原来按秒计费的谨慎咨询,变成随时待命、不眠不休的思考流水线。 当一种珍稀资源的边际成本正在无限逼近于零。 把目光死死盯在怎么省钱上,很可能会彻底走错方向。 谁能接得住它喷涌而出的巨大洪流,谁才能拿到下一轮的入场券。
引用 / CITATIONS
No citations exported.
同领域解读 / AI & LLMS
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。