五亿token二十八块:DeepSeek是如何把模型调用成本砸穿的
两千多次调用,十几个完整项目,耗了整整五亿个 token。 最后结账花了多少钱? 二十八块。 人民币。 去快餐店吃顿稍微体面点的午饭,差不多也就这个数。 五亿个 token 怎么可能便宜成这样? 服务器里的显卡难道不吃电了吗? 先看这五亿个 token 怎么花出去的。 测试的人连着做了十几个案例。 写发布会演示幻灯片、搓网页小游戏、搭纪念碑谷风格的解谜关卡,还跑了一段千里江山图的动画。 这些活可没法指望一句提示词就搞定。 现在让智能体写代码,得让它自己一步一步摸索着试错。 模型每往前推进一步,都得先回头把前面的所有信息完整读一遍。 这里面有长长的规则说明、有各种工具的定义、有整个项目的代码结构,还有刚才几十轮的修改记录。 上下文随便拉一拉,可能就有十万个 token。 一个任务改来改去走上一百步,模型就得重读一百次。 十万乘以一百,就是一个任务一千万 token。 十几个任务跑下来,五亿就这么不知不觉刷出去了。 按以前的规矩,大模型按字数计费,读十万字就得收十万字的钱。 要是真这么算,这一夜的账单奔着几百上千块就去了。 为什么最后只要二十八块? 因为 DeepSeek 给它的 V4.1 Flash 模型定了一个极其极端的计费规则。 在空闲时段,未命中的常规输入,一百万 token 收一块钱。 输出内容,一百万 token 收四块钱。 最狠的在后面。 如果这次输入的内容,前面的前缀在服务器里已经读过、存在了缓存里,价格直接打骨折: 一百万 token,只要两分钱。 也就是 0.02 元。 常规输入是一块钱,命中缓存是两分钱。 这中间差了整整五十倍。 智能体在反复改代码的时候,前面那十万字的项目背景、工具定义和对话,绝大部分都是一模一样的内容。 模型每走一步,真正新加进来的指令可能只有几十个字,其余全在缓存里。 这五亿个 token 里面,百分之九十以上走的都是两分钱的通道。 一千万 token 的重复阅读,以前要十块钱,现在只要两毛。 价格定这么低,机房能撑得住吗? 很多做大模型推理的工程师最怕的就是开长上下文缓存。 因为在传统架构下,把这些计算状态一直存在内存里,要狠狠吃掉显存。 高性能显卡的显存贵得吓人。 要是几千个用户同时挂着几十万字的长文本,显卡显存分分钟被挤爆,机器直接死机。 能降到两分钱,不靠赔本补贴,全凭他们在底层改动了计算架构。 这个 V4.1 Flash 搞了一套非对称的计算设计。 模型在读取输入上下文的时候,只激活 80 亿参数来做局部处理;等到它真正开始写代码、生成回复的时候,才激活 160 亿参数。 读的时候轻手轻脚,写的时候全力输出。 这一改,再加上针对键值缓存的深度压缩技术,它占用的显存空间直接缩减到了上一代模型的四分之一。 同样的机房,原本只能挂一个人的任务,现在能稳稳接住四个人。 显存不紧张了,服务器就敢把你的缓存留在内存里更长时间。 你的智能体思考两秒再发下一条指令,上一轮的记忆还在那里热乎着,随时能一头扎进两分钱的命中区。 便宜是真便宜,做出来的东西能看吗? 实际测下来的表现很有意思。 在日常编程任务上,它单次跑通的概率大概在 77%,折算下来一个编程任务的成本大概一块三毛钱。 做一般的动效、小游戏框架,在配合好专业规则的情况下,上手速度极快。 但要说能不能全面赶超顶级模型,那倒也未必。 如果拉来顶级的 Claude Opus 5.5 放在一起比,差距还是很直观的。 尤其是在高级的视觉审美、精细的艺术风格,还有跨越几十个复杂文件的长程重构上,顶级模型对整体气质和逻辑链的拿捏依然更老练。 DeepSeek 做出来的 3D 故宫或者复杂游戏场景,要是没有精细调整的外部规则托底,细节还是显得有些粗糙。 但这正好划出了它的生态位。 它不需要在最高峰上和全行业最贵、最聪明的模型争个高下。 它的价值是在实用门槛之上,把边际调用的成本彻底砸穿。 做日常开发、跑大量并发工具、反复修改代码,程序员最不需要的就是每点一次运行都要心疼一下钱包。 把五亿 token 压到一碗面钱,最大的改变甚至无关跑分。 它让那些原本因为昂贵而只能停留在纸上的想法,终于可以随便挥霍着试错了。
同领域解读 / AI & LLMS
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。